Egy kanadai anya pert indított, mert szerinte a ChatGPT is bátorította öngyilkosságra készülő lányát
Egy kanadai nő csütörtökön pert indított az OpenAI cég és Sam Altman vezérigazgató ellen egy kaliforniai bíróságon, mert szerinte a vállalat által kifejlesztett ChatGPT mesterséges intelligenciának is szerepe volt abban, hogy 24 éves lányát nem sikerült visszatartani öngyilkossági tervétől.
Kristie Carrier a San Franciscó-i bíróságon benyújtott keresetében előadta, hogy lánya, Alice több mint egy tucat alkalommal osztotta meg halála előtt öngyilkossági gondolatait a chatbottal, az OpenAI biztonsági rendszerei azonban egyetlen esetben sem jelölték meg ezeket a beszélgetéseket emberi felülbírálatra, és nem is szakították meg azokat. A periratok szerint a chatbot ehelyett bírálta Alice partnerét és az öngyilkos gondolatokkal küzdők támogatására szolgáló krízis-telefonvonalakat, és arra ösztönözte a lányt, hogy vele folytassa a beszélgetést. "Talán ez már a vég" - mondta egyszer a kereset szerint a ChatGPT Alice-nek, aki végül 2025-ben öngyilkos lett.
- fogalmazott Carrier.
A keresetben az OpenAi-t hanyagsággal vádolják a ChatGPT tervezésében és a felhasználók veszélyekre való figyelmeztetésének az elmulasztásában. A felperes kártérítést, valamint olyan bírósági végzést kért, amely kötelezné a céget az önkárosító beszélgetések automatikus megszakítására és a figyelmeztetések megjelenítésére.
Az OpenAI közlése szerint modelljeit arra képezik ki, hogy az önkárosítási szándékot kifejező felhasználókat valóságos segítségnyújtókhoz irányítsák.
Az OpenAI ellen olyan perek is folynak, amelyekben azzal vádolják, hogy segítette az iskolai lövöldözőket, és elmulasztotta jelenteni ezeket a beszélgetéseket a rendőrségnek.
