Съдебно дело заведе майката на тийнейджър, защото според нея чатбот е допринесъл за самоубийството на 14-годишният ѝ син. Какви рискове за умственото здраве крие технологията ИИ?
Меган Гарсия, майка на 14-годишен тийнейджър завежда дело срещу компанията за ИИ, казвайки, че техния чатбот е повлиял на сина ѝ да си сложи край на живота. Според делото, момчето развива дълбоко привличане към чатбота на компанията Character.AI, базиран на измислен герой от сагата Игра на Тронове.
Чатботът водил сексуални разговори с момчето и евентуално го е окуражил да отнеме живота си.
„Досега сме виждали опасностите, които нерегулираните платформи, разработени от безскрупулни технологични компании представляват, особено за деца.“ казва Мийтай Джайн, директор на организацията, която представлява Гарсия.
„Но вредите, разкрити от случая са нови и честно казано ужасяващи. В случая на Character.AI измамата е по дизайн и платформата само по себе си е хищник.“
Компанията Character.AI публикува изявление по темата:
„Съкрушени сме от трагичната загуба на един от потребителите ни и искаме да изразим най-искрените си съболезнования към семейството. Като компания, която приема безопасността на потребителите много сериозно, ще продължим да добавяме функционалности за безопасност.“
Някои такива функционалности включват начини моделите да разпознаят малолетни, за да не ги излагат на опасно съдържание, напомняния, че ИИ не е истински човек във всеки чат и уведомления за потребителите, които прекарват дълги часове на платформата.
Подобен инцидент се случи в Белгия през миналата година. Тогава мъж, с голяма загриженост за околната среда си общува с чатбот на друга компания. Според съпругата му, разговорите с този чатбот ставали все по-емоционални, като накрая чатботът започнал да окуражава мъжа да сложи край на живота си, за да спаси планетата.
С навлизането на ИИ в ежедневието ни и опасността от подобни крайности нараства. Експерти предупреждават, че за младите хора това е още по-опасно. За разлика от човешките взаимоотношения, при които има много неразбиране и несъгласия, ИИ компаньоните са създадени, за да се адаптират към предпочитанията на потребителя и така стават много по-привлекателна компания. Това може да създаде удобство, което не може да се открие в реалния свят и така да се превърне в предпоставка за избягване на по-трудните взаимоотношения с реални хора.
Моделите ИИ могат да създадат и зависимост на емоционално ниво, като някои хора могат да се привържат към чатботовете след като ги ползват известно време.
Когато такова нещо става с млади хора, те губят възможността да осъществяват реални социални контакти, не се научават как да се справят с конфликтите и отхвърлянето и така създават още предпоставки за бъдеща зависимост от ИИ технологията и социална изолация.
Как могат родителите да предпазят децата си от нещо подобно? Трябва да създадат ограничения за употребата на ИИ, както и да насърчават реалните контакти, а ако детето прекарва твърде много време в общуване с чатбот, да предприемат своевременния мерки, които могат да включват и консултация с истински, човешки терапевт.
От съществено значение е подходът, за да се обясни внимателно на детето разликата между човек и чатбот, без то да се критикува за избора си.
Източник: Euronews
