Девојчето, во тужбата именувано како Ема, немало пристап до апликацијата „Gemini“ на Google или до „ChatGPT“ на OpenAI, бидејќи училиштето ги блокирало.
Сепак, таа имала пристап до пребарувачот на Google, кој содржи интегрирани функции за вештачка интелигенција. Иако претходно немала забележани проблеми со менталното здравје, во тужбата се наведува дека, во текот на неколку месеци користење на пребарувачот, нејзината ментална состојба почнала сериозно да се влошува.
Училиштето ги известило родителите на 17 март, откако софтверот за надзор открил документ со наслов „Погреб“. Подоцна, мајката ја затекнала ќерка си како пишува проштално писмо, по што интервенирал таткото.
„Училиштата треба да ја исклучат опцијата за пребарување и да не ја вклучуваат сè додека Google не го отстрани режимот на вештачка интелигенција од пребарувачот или не обезбеди целосна безбедност за секој ученик при интеракцијата со вештачката интелигенција“, изјави вчера Ендрју Лидел, еден од адвокатите на семејството, за агенцијата AFP.
Од Google наведуваат дека нивниот режим на вештачка интелигенција содржи заштитни механизми против самоповредување, како и системи кои спречуваат обиди за заобиколување на овие правила.
„Ги разгледуваме наводите во тужбата и им пристапуваме со голема сериозност“, изјави за AFP портпаролот на Google, Хозе Кастанеда.
И компанијата OpenAI се соочува со неколку тужби поврзани со смртни случаи. Меѓу нив е и тужбата поднесена од родителите на 16-годишниот Адам Рејн, кој извршил самоубиство откако, наводно, добил штетни совети од „ChatGPT“.