Začátkem roku 2025 zaznamenal svět další milník v oblasti vývoje umělé inteligence. Čínská společnost DeepSeek představila svůj nový produkt v podobě nového chatbotu fungujícího na podobné bázi jako ChatGPT. Ten se okamžitě stal jednou z nejoblíbenějších  aplikací. Pochybnosti však vyvolává, do jaké míry DeepSeek poskytuje objektivní odpovědi a jakým způsobem aplikace zpracovává data uživatelů. 

Šok ve světě technologií

Vydání nového chatbota vyvolalo šok v mezinárodní komunitě zabývající se umělou inteligencí (AI).[1] Spuštění chatbota čínskou společností  DeepSeek s umělou inteligencí spustilo propad amerických technologických akcií. Například výrobce čipů Nvidia zaznamenal propad o téměř 17 % a tržní hodnota společnosti tak klesla skoro o 600 miliard dolarů. Tento propad představoval historicky nejprudší jednodenní ztrátu jedné firmy na americkém akciovém trhu.

Aplikace funguje na velmi dobré úrovni, která je srovnatelná s ChatGPT od společnosti OpenAI či jinými chatboty.  DeepSeek nabízí velmi sofistifikované odpovědi s velmi dobrou slovní zásobou, které jsou generovány do několika sekund. DeepSeek však využil na vývoj chatbota mnohem méně finančních zdrojů než západní konkurenční společnosti. Toto vyvolalo paniku u konkurence a podnítila novou myšlenku o možnosti vyrábět podobné produkty od společností OpenAI a Meta za mnohem nižší náklady bez drahých polovodičových čipů od společností Nvidia či Broadcom. 

O co se to přesně jedná?

Nový produkt DeepSeek, nazvaný také jako R1, je přirovnáván k již známému produktu ChatGPT od OpenAI. I tento model byl vytvořen na bázi simulace lidské konverzace a odpovědí na zadané otázky různorodého charakteru. Aplikace DeepSeek vyžaduje, aby si její uživatelé stejně jako při používání ChatGPT vytvořili svůj vlastní účet a ukládali si historii chatů. 

Pouze výjimečně jsou zaznamenány občasné  výpadky z důvodu vysoké návštěvnosti. Nesrovnalosti lze zaznamenat i u kontroverzních otázek. Aplikace využívá funkce velkého jazykového modelu, který shromažďuje  obrovské množství dat či informací a tyto data, respektive informace od uživatelů následně zpracovává. Problémem ovšem zůstává, jak čínská aplikace DeepSeek získaná data a informace chrání. 

DeepSeek, aneb nové neznámé nebezpečí

I přestože na první pohled se tento čínský bezplatný chatbot zdá být neškodný, nese s sebou značná rizika. Největší obavy panují v oblasti ochrany soukromí a shromažďování osobních dat, na které upozorňuje Lukasz Olejnik, nezávislý konzultant a výzkumník působící na King’s College v Londýně v institutu pro AI. Olejnik upozorňuje veřejnost na to, jaká osobní a citlivá data jsou vhodná s DeepSeek sdílet a jaká je vhodné vynechat. Základní problém se však skrývá v regulačním rámci aplikace DeepSeek. 

Stejně jako ostatní čínští chatboti na bázi AI, i DeepSeek funguje v rámci čínského regulačního rámce. Jinými slovy, čínská umělá inteligence DeepSeek sleduje, co uživatelé píšou, přičemž shromažďuje vložená data. Získané informace pak mohou být podle tamních zákonů dostupné čínské vládě. Právě tato skutečnost vyvolává zásadní obavy ohledně ochrany osobních údajů. 

DeepSeek ve svých zásadách ochrany osobních údajů nastiňuje typy údajů které shromažďuje, ale přesně už však nespecifikuje jaké konkrétní typy údajů jsou programem interně zpracovávány. Zásady rovněž zmiňují, že historie chatu či nahrané soubory zadány uživateli jsou shromažďovány za školícím účelem s cílem zlepšit poskytované služby. 

Olejnik společně s Rob Deinert, ředitelem  Citizen Lab univerzity v Torontu, upozorňují i na jiné obavy týkající se ochrany samotných dat. V zásadách totiž chybí zmínka o anonymizaci nebo zabezpečení citlivých dat. Neexistuje žádná jasná dokumentace o tom, zda se uživatelská data používají k aktualizaci AI modelů, ani vysvětlení, jak DeepSeek generuje své výstupy.

Zásady rovněž nejsou v souladu s hlavními rámci ochrany osobních údajů, jako jsou Obecné nařízení EU o ochraně údajů nebo kalifornský zákon o ochraně soukromí spotřebitelů. Uživatelé by rovněž měli mít na paměti, že DeepSeek ukládá osobní údaje na serverech umístěných v Číně a její zásady ochrany osobních údajů uznávají přeshraniční přenosy dat, který představuje tok dat mezi zeměmi přes hranice. Konečně nejistotu vyvolává i velmi nízká transparentnost ohledně obsahu zásad. Přestože uživatelé mohou svá data smazat, pravidla pro správu dat zůstávají nejasná, což vyvolává otázky o dopadech dlouhodobého používání služeb DeepSeek.

Algoritmy a nashromážděná data mohou být velmi dobře využity na formování propagandy týkající se kupříkladu čínské provincie Sin-ťiang či historických událostí jako masakr na náměstí Nebeského klidu v roce 1989 způsobem, že chatbot nenabízí konkrétní odpovědi na tyto otázky, a tudíž nepřímo ovlivnit společenské chování zbytku společnosti.

Výše uvedené důvody ukazují, že uživatelé aplikace by měli mít na paměti, že sdílení jakýchkoli citlivých nebo osobních údajů s DeepSeek, může znamenat problém. Vyhnout by se měli zejména zadávání informací ohledně jejich financí, obchodních tajemství nebo informací o jejich zdravotním stavu. Jakákoliv vložená informace může být totiž následně analyzována a využita čínskými úřady. 

Deibert také zdůrazňuje, že by uživatelé měli být obzvláště obezřetní, jaká data do systému vkládají. Chybné zacházení s DeepSeek představuje pro určité uživatelé velké riziko. Jedná se o aktivisty za lidská práva, novináře nebo opoziční politicky angažované představitele spojené ve vztahu k pevninské Číně.

Kupříkladu, Jižní Korea zakázala nové stahování čínského chatbota s odůvodněním, že model dosud neodpověděl tamním zákonům na ochranu osobních údajů. Kromě Jižní Koreji zakázala jeho používání na všech vládních zařízeních také Austrálie, která zdůrazňuje nepřijatelná rizika pro národní bezpečnost spojená  s užíváním této aplikace. 

Cenzura slova

Výrazným problémem je čínský DeepSeek především v návaznosti na tamní právní regulaci. Ta umožňuje lokalizaci dat a ukládání citlivých (osobních) údajů na čínských serverech, což představuje výrazný zásah do práva na soukromí a svobodu slova. Kritika vůči DeepSeeku směřuje i v rámci odpovědí na politické nebo historické otázky. Odpovědi se totiž řídí tamními striktními regulacemi a do odpovědí se promítá čínská narativ.

Obsahem odpovědí čínského chatbota nesmí být obsah, který porušuje základní socialistické hodnoty země nebo ohrožuje národní bezpečnost. Z tohoto důvodu DeepSeek neposkytuje na některé otázky komplexní odpovědi. Pokud se jej proto zeptáte na události z náměstí Nebeského klidu či na problematiku Tchaj-wanu, nabídne místo detailní analýzy jen odpověď, že se omlouvá a “toto sdělení je mimo můj rozsah. Pojďme se bavit o něčem jiném.” 

Tyto problémy přitom nejsou pouze v případě dotazů položených v mandarínštině ale DeepSeek takto reaguje na dotazy ve všech jazycích. Výjimkou nebyla ani skutečnost, že odpovědi chatbota se lišily v závislosti na jazyku komunikace. DeepSeek tak nabízel různé odpovědi na otázky týkající Ujgurů a oblasti Sin-t’iang. Zatímco v při odpovídání v mandarínštině uvedl, že se jedná o reedukační tábory či centra odborného vzdělávání a výcviku zřízená k udržení stability, v anglické verzi odpověď obsahovala klíčová slova jako nucená asimilace, zneužívání a mučení či kulturní potlačování. Tyto odpovědi však byly následně během pár vteřin smazány a nahrazeny návrhem na diskuzi o jiných tématech.

Geopolitická hra o moc či nová technologická spolupráce? 

Úspěch DeepSeeku symbolizuje, že Čína je stále jedním z důležitých hráčů v rámci technologického vývoje a pokroku v oblasti AI. Výrazné postavení USA oslabuje a ukazuje se, že omezení, která se týkala vývozu pokročilých polovodičových technologií, nebyla dostatečná. 

Nutno proto říci, že v geopolitické hře o moc v oblasti AI je s Čínou potřeba počítat. Čína se stává nezávislou na západních technologiích a kráčí samostatně vpřed. I přestože aplikace Deepseek představuje výrazný technologický pokrok a cestu k fragmentaci trhu, použitá technologie přináší i výrazné stinné stránky, které nesmí být přehlíženy a uživatelé aplikace DeepSeek na ně musí pamatovat.

 

 

Poznámky

[1] Chatbot je počítačový program, který je určený k simulaci konverzace s lidskými uživateli přes internet. Funguje na principu zadávání otázek, neboli promtů, a vygenerovávání odpovědí na různá témata. 

Zdroje

Lu, D. (2025, leden). We tried out DeepSeek. It worked well, until we asked it about Tiananmen Square and Taiwan. The Guardian. Získáno z https://www.theguardian.com/technology/2025/jan/28/we-tried-out-deepseek-it-works-well-until-we-asked-it-about-tiananmen-square-and-taiwan

Da Silva, J. & Mackenzie J. (2025, únor). S Korea removes Deepseek from app stores over privacy concerns. BBC. Získáno z https://www.bbc.com/news/articles/clyzym0vn8go

Li, J. (2025, leden). What questions will China's DeepSeek not answer?. DW. Získáno z https://www.dw.com/en/what-questions-will-chinas-deepseek-not-answer/a-71470843

Mann, H. (2025, leden). Seek Deeper On DeepSeek For Artificial Integrity Over Intelligence. Forbes. Získáno z https://www.forbes.com/sites/hamiltonmann/2025/01/28/seek-deeper-on-deepseek-for-artificial-integrity-over-intelligence/

Collier K. (2025, leden). China's DeepSeek AI is watching what you type. NBC News. Získáno z https://www.nbcnews.com/tech/security/deepseek-ai-comes-data-safety-concerns-chatgpt-openai-rcna189521

Whitfill Roeloffs M.  (2025, leden).  Does DeepSeek Censor Its Answers? We Asked 5 Questions On Sensitive China Topics. Forbes. Získáno z https://www.forbes.com/sites/maryroeloffs/2025/01/27/does-deepseek-censor-its-answers-we-asked-5-questions-on-sensitive-china-topics/

Ng K. (2025, únor), 'DeepSeek moved me to tears': How young Chinese find therapy in AI. BBC. Získáno z https://www.bbc.com/news/articles/cy7g45g2nxno

Ng, K. & Drenon B. & Gerken T. & Cieslak M. (2025, únor). DeepSeek: The Chinese AI app that has the world talking. BBC News. Získáno z What is DeepSeek - and why is everyone talking about it?

Simon D. (2025, únor). DeepSeek a wake-up call for global AI industry. China Daily Global. Získáno z https://www.chinadaily.com.cn/a/202502/25/WS67bd1a11a310c240449d70af.html

Čínská AI DeepSeek spustila volný pád akcií části technologických firem v USA (2025, leden 28). ČTK, ČT24. Získáno z https://ct24.ceskatelevize.cz/clanek/ekonomika/cinska-ai-deepseek-spustila-volny-pad-akcii-casti-technologickych-firem-v-usa-357510