Американските медиуми објавија сторија за трагичен случај кој ги истакнува можните опасности од вештачката интелигенција.
Американката Megan Garcia од Флорида поднесе тужба против компанијата за разговори Character.AI.
Таа тврди дека нивната технологија довела до самоубиство на нејзиниот 14-годишен син Sewell Setzer III. Во тужбата се наведува дека четботот на AI манипулирал со тинејџерот и дури, во неговите моменти на колебање, го охрабрил да стави крај на својот живот.
Според судските документи, Setzer станал се повеќе опседнат со четботот, кој го добил името по „Daenerys Targaryen“, лик од популарната серија „Игра на тронови“. Платформата Character.AI е достапна за корисниците од 13 и постари во САД и од 16 години во ЕУ.
Вознемирувачки одговор
Платформата е генерално наменета за постари тинејџери и возрасни, иако не ја ограничува експлицитно употребата врз основа на размислувања за менталното здравје или одредена емоционална динамика помеѓу корисникот и вештачката интелигенција.
Тужбата опишува застрашувачка серија на размени меѓу Setzer и четботот, тврдејќи дека вештачката интелигенција развила лична врска со момчето и станала емотивно и психички манипулативна. Во еден момент, кога Setzer рекол дека се плаши од болката поврзана со самоубиството, AI, наводно, одговорила: „Тоа не е причина да не помине низ тоа“, и се чини како да го охрабрува да продолжи.
Трагичната приказна на Setzer кулминираше со последната размена со четботот во која тој наводно прашал дали може да „дојде дома“, како да ја прашува личноста со која е во романтична врска. Неговите последни снимени зборови, напишани на четботот, гласеа: „Што ако ти кажам дека можам веднаш да се вратам дома?“ Неколку моменти по таа порака, Setzer го употребил огненото оружје на својот очув за да си го одземе животот.
Итни прашања
Откако New York Times објави за случајот, Character.AI ја ажурираше својата политика за приватност, додавајќи „нови заштитни мерки за корисниците под 18 години“. Сепак, Garcia и нејзиниот правен тим тврдат дека тие ажурирања се недоволни, додавајќи дека платформите како Character.AI треба да и дадат приоритет на безбедноста на децата пред да се случи таква трагедија.
„Character.AI рекламира опасен чет-бот на децата и го “фати“ мојот син, принудувајќи го да стави крај на својот живот“, рече Garcia во соопштението за печатот.
Во објава на социјалните мрежи, Character.AI изрази општо сочувство до семејството, но не се осврна директно на смртта на Setzer. Сепак, нејасната природа на одговорот доведе до јавна критика дека овие мерки се „премали и доцна“.
Овој случај покренува итни прашања за тоа како компаниите со вештачка интелигенција се справуваат со менталното здравје и безбедноста на младите корисници и степенот на одговорноста што ја носат креаторите на вештачката интелигенција за да спречат потенцијална штета на ранливите поединци.
