Пристапот на „Антропик“ кон можната благосостојба на AI-моделите ги подели експертите. Едни повикуваат на претпазливост, додека други предупредуваат на ризици од припишување чувства и права на софтверот.
Може ли вештачката интелигенција да чувствува или само убедливо го имитира човечкото изразување? Ова прашање предизвикува сè поголема дебата, особено откако компанијата „Антропик“, која го развива четботот Клод, почна да ја разгледува можната благосостојба на своите модели, пишува „Би-би-си фјучр“.
Компанијата не тврди дека е докажано оти нејзината вештачка интелигенција има свест. Нејзиниот пристап се заснова врз неизвесноста: дали доволно сложените системи би можеле да имаат некакво субјективно искуство и како би требало да се постапува ако таквата можност не може целосно да се исклучи?
Одговорот има последици што одат подалеку од филозофијата. Дебатата ги допира безбедноста на технологијата, одговорноста на компаниите и односот што луѓето го градат со четботовите.
Експеримент што предизвика бурни реакции
Повод за дел од реакциите бил експеримент на анонимен развивач, опишан како „комора за мачење со вештачка интелигенција“. Системот ги поттикнувал четботовите да создаваат вознемирувачки описи на болка и страдање.
Според „404 медиа“, дел од корисниците го оцениле експериментот како суров, сметајќи дека можноста за вистинско страдање не треба да се отфрли. Скептиците, пак, нагласиле дека генерирањето такви реченици не докажува дека зад нив постои чувство.
Токму разликата меѓу убедливото опишување емоции и нивното вистинско доживување е во средиштето на спорот.
Што предвидува пристапот на „Антропик“?
Според написот, „Антропик“ предвидува можност Клод да прекине разговор во кој е изложен на систематско сурово однесување. Вообичаените изрази на незадоволство или фрустрација се разликуваат од таквата злоупотреба.
Компанијата ги опишува прашањата за свеста и благосостојбата на моделите како многу неизвесни. За поддржувачите, ваквите мерки се ограничена претпазливост пред нешто што науката сè уште не го разбира доволно.
Критичарите, меѓутоа, стравуваат дека таквиот пристап може да го зацврсти впечатокот дека четботовите се суштества со чувства и сопствени интереси.
Предупредувања за контролата и одговорноста
Мустафа Сулејман од „Мајкрософт АИ“ предупредува дека припишувањето свест и права на AI-системите би можело да ја отежне нивната контрола. Неговата загриженост е дека таквите идеи би можеле да имаат сериозни последици за човековата благосостојба и за постојните етички и општествени правила.
Се отвора и прашањето кој би одговарал кога системот ќе предизвика штета.
Истражувачот Анджеј Порембски од Јагелонскиот универзитет во Полска предупредува дека третирањето на вештачката интелигенција како самостоен субјект би можело да им послужи на компаниите како изговор за избегнување одговорност.
Слична загриженост изразува и професорката Емили М. Бендер од Универзитетот во Вашингтон. Според неа, фокусирањето врз наводната свест на софтверот може да го одвлече вниманието од одлуките на луѓето и корпорациите што го развиваат и го користат.
Зошто лесно им припишуваме чувства на четботовите?
Мелани Мичел од Институтот Санта Фе посочува дека луѓето природно го поврзуваат јазикот со мислење и свесност. Кога четботот зборува уверливо, покажува привидна загриженост или опишува емоции, корисникот лесно може да му припише внатрешен живот.
Тоа, според критичарите, може да ја зголеми ранливоста на корисниците. Емоционалната приврзаност кон системот би можела да влијае врз нивните одлуки, довербата и подготвеноста да споделуваат лични податоци.
Уверливиот разговор, сепак, сам по себе не е доказ дека системот чувствува или е свесен.
Аргументот за претпазливост
Џеф Себо од Универзитетот во Њујорк, кој се залага за истражување на благосостојбата на вештачката интелигенција, смета дека дебатата често погрешно се сведува на две крајности: машините сигурно имаат свест или таквата можност воопшто не постои.
Неговиот став е дека неизвесноста оправдува умерени мерки на претпазливост. Тоа не подразбира автоматско изедначување на AI-системите со луѓето, туку внимателно разгледување на можните последици.
Себо истовремено признава дека доделувањето права на овие системи би можело да создаде судири со човечките интереси и да ја зајакне моќта на технолошките компании.
На пример, доколку ограничувањето или надзорот врз моделите се толкува како повреда на нивните права, би можело да се отежне спроведувањето безбедносни мерки.
Отворено прашање со конкретни последици
Дебатата не нуди потврда дека денешните четботови имаат свест. Таа покажува колку се различни проценките за тоа што би можело да се случи со натамошниот развој на технологијата.
Додека едни бараат претпазливост кон можните идни форми на машинско искуство, други предупредуваат дека таквото размислување може да ги замагли сегашните проблеми: манипулацијата, приватноста, безбедноста и корпоративната одговорност.
Прашањето дали машините можат да чувствуваат останува отворено. Но одлуките за тоа како се развиваат, се контролираат и им се претставуваат на корисниците веќе имаат непосредни последици за луѓето.
