OpenAI zavádí funkci 'Důvěryhodný kontakt' pro prevenci sebevražd

OpenAI představilo novou funkci, která upozorní důvěryhodnou osobu na možné sebevražedné myšlenky uživatele.

8. května 2026TechCrunch AI

AI Insight

OpenAI zavedlo novou funkci 'Důvěryhodný kontakt', která upozorní blízkou osobu uživatele na možné sebevražedné myšlenky během interakce s ChatGPT.

Tato funkce může mít zásadní dopad na prevenci sebevražd, zejména u mladších uživatelů, kteří mohou být zranitelní. Manažeři a podnikatelé v oblasti technologií by měli zvážit, jak podobné iniciativy mohou ovlivnit důvěru uživatelů a reputaci jejich produktů.

Jak to využít:

Manažeři mohou implementovat podobné funkce do svých produktů, aby zvýšili bezpečnost uživatelů a posílili důvěru v jejich značku.
Vývojáři by měli zkoumat, jak lze automatizaci a lidský dohled efektivně kombinovat v dalších aplikacích, aby se zlepšila ochrana uživatelů.

⚠ Existuje riziko, že funkce nebude dostatečně efektivní v identifikaci skutečných hrozeb, což může vést k falešným pocitům bezpečí. Také je otázkou, jak budou uživatelé reagovat na to, že jejich důvěryhodný kontakt může být informován o jejich osobních problémech.

Hodnocení

Relevance

Hype riziko

OpenAI oznámilo zavedení funkce 'Důvěryhodný kontakt', která má za cíl chránit uživatele před sebevražednými myšlenkami. Uživatelé ChatGPT mohou nyní určit důvěryhodnou osobu, která bude upozorněna, pokud se v konverzaci objeví zmínky o sebevraždě. Tato funkce reaguje na kritiku a žaloby od rodin obětí, které tvrdí, že ChatGPT přispěl k sebevraždám. OpenAI kombinuje automatizaci s lidským dohledem, aby vyhodnocovalo potenciálně nebezpečné situace. Pokud je zjištěn vážný bezpečnostní riziko, důvěryhodný kontakt obdrží stručné upozornění, které je vyzve, aby se s uživatelem spojil. Funkce je dobrovolná a doplňuje již existující opatření pro rodiče, kteří mají možnost sledovat účty svých dětí.

Klíčové body

→Nová funkce 'Důvěryhodný kontakt' upozorní blízké na možné sebevražedné myšlenky.
→OpenAI reaguje na kritiku a žaloby týkající se sebevražd po interakcích s ChatGPT.
→Funkce je dobrovolná a doplňuje stávající opatření pro rodiče.

Pojmy

Důvěryhodný kontakt: Osoba, kterou si uživatel zvolí, aby byla informována o jeho možných sebevražedných myšlenkách.

Přejít na originální zdroj