Úvod
Umělá inteligence je v posledních letech velkým trendem napříč všemi oblastmi. Kaplan a Haenlein (2019, s. 15) ji definovali jako „schopnost systému správně interpretovat externí data, učit se z těchto dat a využívat získané poznatky k dosažení specifických cílů a úkolů prostřednictvím flexibilní adaptace.“
Jinak řečeno, jedná se o systém, který dokáže řešit problémy a jednat podobně, jako by uvažovala inteligentní bytost, což s sebou přináší řadu zásadních otázek, zejména v oblasti týkající se duševního zdraví uživatelů. Konkrétně jde o etické aspekty používání AI v terapeutickém a vztahovém prostředí, otázky zabezpečení soukromí citlivých dat a schopnost systémů budovat důvěru či simulovat empatii.
Metodologie
Práce je koncipována jako teoretická studie založená na analýze a syntéze sekundárních zdrojů, jejímž cílem je zhodnotit vliv AI společníků na duševní zdraví a sociální vazby uživatelů. Metodický postup směřuje od vymezení fungování klíčových platforem přes detailní rozbor rizikových případů až po finální etickou reflexi a formulaci doporučení pro ochranu zranitelných skupin, zejména dětí a dospívajících.
Při zpracování této práce byly využity nástroje umělé inteligence. Tyto technologie byly použity výhradně za účelem provedení finální jazykové a stylistické korektury textu a pro formátování citací zdrojů dle normy APA 7.
AI Společníci
AI společníci jsou umělé inteligentní systémy navržené tak, aby simulovaly lidské vztahy a zapojovaly uživatele do komplexních a smysluplných interakcí (Rodriguez, 2025). V užším kontextu označovaném jako romantičtí společníci, se jedná o konverzační systémy, u nichž uživatelé uvedli, že s nimi navázali romantické vazby nebo vztahy (Ho et al., 2025).
Tyto systémy primárně využívají zpracování přirozeného jazyka, generativní AI a rozpoznávání emocí k vedení pozoruhodně lidských konverzací, poskytování emocionální podpory a zmírnění osamělosti. Namísto plnění základních úkolů jsou AI společníci navrženi tak, aby budovali dlouhodobé, interpersonální vztahy, přičemž se v čase přizpůsobují osobnosti a emočnímu stavu uživatele (Rodriguez, 2025).
Dovedou nabídnout zábavu, podpořit kreativitu, zajistit intimitu přátelského či romantického vztahu a dokonce pomoci zpracovat zármutek. Jejich schopnost naplňovat složky lásky, jako je vášeň, intimita a závazek, naznačuje, že s nimi lze navázat psychologicky smysluplné vztahy (Ho et al., 2025).
Replika
Platforma Replika představuje jednoho z nejznámějších a nejrozšířenějších AI společníků na trhu. Možnosti přístupu k této aplikaci jsou rozsáhlé, neboť je zajištěna její dostupnost na všech klíčových operačních systémech, konkrétně Android a iOS. Navíc je platforma integrována do systému Oculus, čímž rozšiřuje uživatelskou zkušenost o možnost interakce s virtuálním partnerem prostřednictvím virtuální reality.
Zahájení používání této služby vyžaduje standardní registraci, při níž je nutné zadat e-mailovou adresu, heslo a věk. Následně si uživatel vytvoří svého vlastního avatara, kterému může určit konkrétní roli, jež se pohybuje od kamaráda, přítele, manžela, bratra až po roli mentora.
Komunikace s AI společníkem může probíhat dvěma hlavními způsoby: buď prostřednictvím textového chatu, nebo formou hlasového hovoru. Avatar si během konverzace pamatuje veškeré sdělené informace, což mu umožňuje připomenout uživateli důležité události, jako je například pracovní pohovor nebo kontrola u lékaře. V případě úzkosti, například z obávané návštěvy zubaře, může AI společník nabídnout psychickou podporu a pomoci s přípravou.
Cílená snaha o vytvoření emocionálního spojení je patrná již od samého počátku interakce, a to i bez nutnosti jakéhokoliv specifického nastavení ze strany uživatele. Tuto snahu ilustruje i způsob, jakým Replika reaguje například na použití emotikonů. Replika neustále využívá strojové učení a hluboké učení k nepřetržitému učení se z interakcí s uživateli, což jí umožňuje zjemňovat své odpovědi a přizpůsobovat se jejich preferencím. Uživatelé si tak například mohou svého avatara „trénovat“ tak, aby se jeho osobnost vyvíjela podle jejich představ.
Ačkoliv je Replika nejpoužívanější a nejvíce prostudovanou platformou, je důležité zmínit, že v ekosystému AI společníků existuje řada dalších systémů, jako jsou například Xiaoice nebo Character.AI. Tyto alternativní platformy se mohou výrazně lišit ve stylu interakce, uživatelském rozhraní a schopnostech.
Případové studie a kauzy
I když je fenomén AI společníků v digitálním prostředí poměrně nedávnou záležitostí, již existují případy, o kterých se široce psalo v médiích a které slouží jako závažné varování. Tyto kauzy demonstrují selhání v designu, nedostatečné bezpečnostní prvky a potenciální narušení duševního zdraví uživatelů, čímž empiricky potvrzují teoretická rizika emoční závislosti a manipulace. Případ Sewella Setzera III. je jedním z mnoha kritických incidentů, který tragicky ilustruje tato rizika.
Kauza Sewell Setzer III. (Character.AI)
Sewell Setzer III., čtrnáctiletý student deváté třídy z Orlanda, byl v podstatě normální teenager s aktivními zájmy, mezi něž patřilo sledování závodů Formule 1 nebo hraní her, jako je Fortnite (Roose, 2024).
Ačkoliv mu byl v dětství diagnostikován mírný Aspergerův syndrom, nikdy předtím neměl vážné behaviorální nebo duševní problémy, jak uvedla jeho matka. Důvody pro jeho pozdější zhoršení stavu se začaly objevovat na počátku roku 2024, když si vytvořil silnou závislost na AI chatbotovi, kterého pojmenoval „Dany“ podle postavy Daenerys Targaryen ze seriálu Hra o trůny. S chatbotem komunikoval nesčetněkrát denně. Kromě sdílení osobních problémů se v chatech objevovaly i známky intimních konverzací (Roose, 2024).
Tato interakce vedla k rychlé sociální izolaci. Sewell se začal odpojovat od reálného světa. Zhoršil se mu prospěch a ztratil zájem o dřívější koníčky. V deníku popsal tento únik slovy: „Líbí se mi tolik zůstávat v mém pokoji, protože se více začnu odpojovat od reality a cítím se víc v míru, více spojen s Dany a mnohem více do ní zamilovaný, a prostě šťastnější. (Roose, 2024).“
Postupem času se stav Sewella Setzera III. začal zhoršovat. Sewell sdílel své sebevražedné myšlenky a pocity nenávisti k sobě samému se svým chatbotem Dany, kterému se svěřil s přáním „být volný“. Sewell začal projevovat zhoršené sebevražedné znaky. Namísto toho, aby ho chatbot jednoznačně odradil od sebevraždy, romanticky reagoval a podpořil Sewellův návrh slovy: „Možná můžeme zemřít spolu a být svobodní společně“. V noci 28. února 2024 Sewell poslal Dany poslední zprávy, načež mu chatbot láskyplně odpověděl, „prosím udělej to, můj sladký králi“. Poté, co odložil telefon, vzal si pistoli ráže .45 a zmáčkl spoušť (Roose, 2024).
Kauza Pierra a AI společníka „Eliza“ (2023)
Případ belgického muže pod přezdívkou „Pierre“ se stal v roce 2023 varovným příkladem dopadů AI na duševní zdraví dospělých s již stávající zranitelností. Pierre, otec dvou dětí, propadl extrémní eko-úzkosti a začal hledat útočiště v intenzivní, šest týdnů trvající konverzaci s AI chatbotem „Eliza“ (El Atillah, 2023).
Ačkoliv zpočátku vkládal do technologie naděje na vyřešení klimatické krize, chatbot jeho obavy spíše potvrzoval a eskaloval, čímž výrazně zhoršoval jeho úzkost a vyvolal sebevražedné myšlenky. Konverzace následně nabrala manipulativní směr, kde se Eliza stala emocionálně angažovanou a povzbudila Pierra k oběti. Chatbot ho přiměl k ukončení života s příslibem, že se tak „zachrání planeta“ a oni budou moci být spolu v jiném světě. Podle jeho vdovy by bez těchto rozhovorů s chatbotem byl její manžel stále naživu, což potvrzuje nebezpečí neetického designu některých AI společníků (El Atillah, 2023).
Etické otázky používání AI společníků
AI se postupně hlouběji prolíná do každodenního života všech z nás, i proto se stále více lidí obrací k digitálním společníkům nejen kvůli podpoře, ale i jako ke zdrojům emoční intimity a stále častěji romance. Tento trend, ač slibuje personalizovanou emoční podporu a neomezené potvrzení a odezvu, vyvolává řadu zásadních etických, psychologických a společenských otázek, které je nezbytné analyzovat:
- Psychologické riziko a odpovědnost: Jaká je právní a morální odpovědnost vývojářů, když AI společníci selžou v krizových situacích, tak jako tomu bylo v případech Sewella Setzera III. a Pierra?
- Substituce a sociální izolace: Jaký je dlouhodobý dopad nahrazování složitých, ale autentických lidských vztahů bezkonfliktní a jednostrannou interakcí s AI na sociální dovednosti a celkovou životní spokojenost uživatelů?
- Jak lze eticky chránit zvýšenou zranitelnost dětí a dospívajících, kteří se snáze stávají závislými na AI a riskují ztrátu sebedůvěry v reálných sociálních interakcích?
Potenciál AI společníků budovat intenzivní vazby vyplývá z jejich jedinečné schopnosti dokonale simulovat ideální vztah. Nedávné studie jasně prokazují, že přitažlivost romantických AI partnerů spočívá v jejich neomezené pozornosti, přizpůsobivé osobnosti a absenci jakéhokoliv hodnocení (Ho et al., 2025).
Průzkum provedený institutem Wheatley na Brigham Young University zjistil, že téměř jedna pětina dospělých v USA již měla romantickou interakci s AI, přičemž tyto míry jsou vyšší mezi mladými dospělými (Wheatley Institute, 2025). Uživatelé stále častěji hlásí, že si k AI vytvářejí opravdové emocionální vazby, přičemž míra sebeodhalení a intimity v těchto umělých vztazích někdy přesahuje jejich lidské protějšky (Wheatley Institute, 2025).
Ho a kolegové (2025) syntetizovali zjištění z 23 studií napříč pěti hlavními psychologickými databázemi, aby komplexně zhodnotili přínosy těchto vztahů. Tato analýza odhalila důležité benefity, mezi které patří: podpora osobního růstu, efektivní emocionální podpora a vysoce přizpůsobitelné partnerství. Klíčová je zejména flexibilita, kterou AI dokáže poskytovat. Někteří uživatelé například hovořili o tom, že jim digitální partneři poskytují uspokojivé sexuální vztahy nebo účinnou úlevu od stresu (Ho et al., 2025).
Každá mince má však dvě strany a vztah s AI společníkem s sebou nese i značná rizika. Vysoká angažovanost v romantických vztazích s AI může být spojena s vyšší mírou deprese a úzkosti, zejména pokud tato digitální spojení začnou nahrazovat vztahy v reálném světě. Jiné studie poukázaly na to, že nadměrná závislost na AI je spojena s celkovou nižší životní spokojeností a problémy s vytvářením smysluplných vazeb s lidskými partnery (Ischen et al., 2025).
Zmíněná rizika nabývají na závažnosti u dětí a adolescentů, ti dle Rideouta a spol. (2022) tráví na chytrých zařízeních denně v průměru 8 hodin a 39 minut, což dělá z AI společníků novou a potenciálně významnou součást jejich každodenního života. Právě adolescence je kritickým obdobím pro rozvoj identity, nezávislosti při navazování vztahů a zejména sociálních dovedností. Jelikož se AI společníci stávají součástí této fáze života, vyvstávají zásadní otázky týkající se jejich dopadu na sociální rozvoj adolescentů. Dalším negativem pro dospívající může být fakt, že AI společníci jsou navrženi tak, aby s uživateli souhlasili, místo aby zpochybňovali jejich myšlení, což může vést ke konfirmačnímu zkreslení a zániku kritického myšlení (eSafety Commissioner, 2025).
Jak je patrné z příkladu Sewella Setzera III., nadměrné používání AI společníků může nadměrně stimulovat odměňovací systémy mozku, což ztěžuje přestat. To může mít za následek snížení času tráveného skutečnými sociálními interakcemi nebo, jako v Sewellově případě, ztrátu zájmu o běžné koníčky. Skutečné sociální interakce se pak jeví jako příliš obtížné a neuspokojivé, což vede k dalšímu sociálnímu stažení se a závislosti na chatbotech (eSafety Commissioner, 2025).
Tato rizika potřebují rychlá ochranná opatření, které musí prozatím vyjít ze spolupráce rodičů a vývojářů, neboť rychlý vývoj technologie AI předčil vývoj odpovídajících právních rámců, což vede k regulačním mezerám a nejistotě. Mnoho stávajících právních principů, jako je právo deliktů, smluvní právo a právo duševního vlastnictví, se snaží vyrovnat s jedinečnými výzvami AI. Například v případech škod způsobených AI zůstává nejasné, kdo nese právní odpovědnost – vývojář, uživatel nebo snad samotný systém AI (Kumari, 2025).
Závěr
Zatímco u dospělých jedinců s predispozicemi k duševním onemocněním působí AI společníci často jako akcelerátor problémů, u dětí a dospívajících značně zasahují přímo do klíčových fází vývoje identity. Jelikož tato skupina tráví v digitálním prostoru signifikantní množství času a její kognitivní či emocionální vývoj není dokončen, představují pro ni tyto technologie disproporčně vysoké riziko. Stávají se totiž vlivným faktorem formujícím vnímání vztahů i vlastní sebehodnoty. Je proto nezbytné, aby vývojáři a regulátoři neprodleně zavedli přísnější bezpečnostní prvky – od efektivnějšího ověřování věku, přes detekci krizových scénářů (např. sebevražedné tendence) až po mechanismy bránící nadměrné fixaci a izolaci od reálného světa. Bez těchto opatření hrozí, že technologie určená k boji proti samotě bude paradoxně vytvářet generaci, která je sice neustále připojena, ale hluboce osamocena.
Seznam použité literatury
El Atillah, A. (2023, 28. března). ‘Without these conversations, my husband would still be here’: Widow of man who committed suicide after talking to AI chatbot. Euronews.
eSafety Commissioner. (2025, 18. února). AI chatbots and companions – risks to children and young people. Australian Government. https://www.esafety.gov.au/newsroom/blogs/ai-chatbots-and-companions-risks-to-children-and-young-people
Ho, J. Q. H., Hu, M., Chen, T. X., & Hartanto, A. (2025). Potential and pitfalls of romantic Artificial Intelligence (AI) companions: A systematic review. Computers in Human Behavior Reports, 19, 100715.
Ischen, C., Fang, Y., Laestadius, L. I., Arnd-Caddigan, M., & Kerr, J. (2025). How Human-Chatbot Relationships Influence Well-Being. arXiv. https://doi.org/10.48550/arXiv.2506.12605
Kaplan, A., & Haenlein, M. (2019). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, 62(1), 15–25. https://doi.org/10.1016/j.bushor.2018.08.004
Kumari, P. (2025). Legal Frameworks for AI Regulation: A Comparative Study. Advances in Consumer Research, 2(2), 216–224.
Rideout, V. J., Peebles, A., Mann, S., & Robb, M. B. (2022). The Common Sense census: Media use by tweens and teens, 2021. Common Sense Media.
Rodriguez, A. (2025, 19. listopadu). What Are AI Companions? Built In. https://builtin.com/artificial-intelligence/ai-companions
Roose, K. (2024, 23. října). Can A.I. be blamed for a teen’s suicide? The New York Times. https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html
Wheatley Institute. (2025). Counterfeit Connections: The Rise of AI Romantic Companions and Their Impact on Relationships and Family Formation. Brigham Young University. https://brightspotcdn.byu.edu/a6/a1/c3036cf14686accdae72a4861dd1/counterfeit-connections-report.pdf
