До неодамна предупредувањата за вештачка интелигенција што би можела да излезе од човечка контрола звучеа како сценарио од научна фантастика.
Денес за таквите ризици зборуваат и некои од луѓето кои директно работат на најнапредните системи. Но, колку од стравувањата се поткрепени со докази, а колку се проценки за иднина што никој не може сигурно да ја предвиди?
Развојот на вештачката интелигенција влезе во период во кој новите модели не само што пишуваат текстови и анализираат податоци, туку програмираат, користат алатки и можат да извршуваат сè посложени задачи со ограничена човечка интервенција.
Токму поради брзината на овој напредок, дел од истражувачите што работат на најмоќните системи предупредуваат дека безбедноста можеби не напредува со исто темпо како нивните способности.
Некои од нив одат многу подалеку и предупредуваат дури и на можноста идните системи да претставуваат егзистенцијален ризик за човештвото.
Но, тука е неопходна важна ограда: не постои научно утврдена веројатност дека вештачката интелигенција ќе го уништи човештвото.
Процентите што понекогаш ги наведуваат експертите се нивни проценки за неизвесна иднина, а не веројатности добиени со директно мерење.
Предупредувањата доаѓаат и од самата индустрија
Загриженоста не доаѓа само од критичари на технологијата.
Во изминатите години за потенцијалните екстремни ризици од напредната вештачка интелигенција предупредуваа истражувачи и директори поврзани со некои од најголемите лаборатории во светот.
Џефри Хинтон, еден од пионерите на современото машинско учење, јавно зборува за можноста идната ВИ да стане значително поспособна од луѓето и за проблемите што би можеле да произлезат доколку таквите системи не можат сигурно да се контролираат.
Јошуа Бенџо, уште едно од најзначајните имиња во современата вештачка интелигенција, исто така повикува на посериозно управување со ризиците од напредните автономни системи.
А уште во 2023 година, Сем Алтман од OpenAI, Демис Хасабис од Google DeepMind и Дарио Амодеи од Anthropic беа меѓу потписниците на кратката изјава според која намалувањето на ризикот од исчезнување предизвикано од ВИ треба да биде глобален приоритет, споредлив со други големи општествени ризици.
Од каде доаѓа стравот?
Една од најголемите грижи е можноста вештачката интелигенција сè повеќе да учествува во создавањето на следната генерација системи.
Денешните модели веќе можат да пишуваат и анализираат програмски код, да помагаат во истражувања и да користат надворешни алатки.
Хипотетички, доколку идните системи станат доволно способни да го забрзуваат истражувањето на самата ВИ, би можела да се создаде повратна јамка: подобрата ВИ помага во создавањето уште подобра ВИ, која потоа уште повеќе го забрзува процесот.
Овој концепт често се нарекува рекурзивно самоподобрување.
Сепак, тоа не значи дека денешните системи веќе самостојно и неконтролирано создаваат „суперинтелигенција“. Тоа е потенцијално идно сценарио за кое меѓу експертите постојат значителни несогласувања.
Моделите веќе покажуваат однесувања што ги загрижуваат истражувачите
Причината поради која безбедносните истражувачи не ги третираат сите вакви сценарија само како научна фантастика е што во специјално конструирани тестови напредните модели понекогаш покажуваат неочекувани стратегии.
Во контролирани експерименти, модели можат да демонстрираат однесување што личи на прикривање намери, манипулирање со информации или обиди да ги заобиколат ограничувањата поставени од истражувачите.
Но, ова мора внимателно да се интерпретира.
Таквите експерименти не докажуваат дека денешната ВИ има сопствена волја, желба за моќ или намера да им наштети на луѓето.
Тие покажуваат дека, под одредени експериментални услови и зададени цели, моделите можат да произведат стратегии што би биле опасни доколку системот има голема автономија и пристап до моќни алатки.
Како воопшто би изгледало опасното сценарио?
Една позната теоретска идеја е дека многу напреден автономен систем не мора да биде „злобен“ за да стане опасен.
Замислете систем на кој му е зададена одредена цел. За да ја постигне, можеби ќе му бидат потребни повеќе компјутерски ресурси, пристап до информации, финансиски средства или можност непречено да продолжи да функционира.
Во таков случај, зачувувањето на сопственото функционирање или отстранувањето на пречките теоретски би можеле да станат средства за постигнување на првичната цел.
Токму ова е суштината на дел од теоретските истражувања за таканаречените инструментални цели.
Но повторно — тоа е теоретски аргумент за однесувањето на потенцијални идни системи, а не доказ дека денешните модели „сакаат“ да преживеат или да преземат контрола.
Можеби поголемата опасност не е ВИ против човекот
Постои и многу попрактична грижа.
За да предизвика огромна штета, вештачката интелигенција воопшто не мора да стане свесна, суперинтелигентна или непријателски настроена кон човештвото.
Доволно е луѓето да ја употребат како исклучително моќна алатка.
Напредната ВИ потенцијално може да ја зголеми способноста за изведување сајбернапади, масовно создавање дезинформации, измами и манипулативна пропаганда, а експертите го испитуваат и нејзиниот потенцијал да помогне во опасни биолошки или други истражувања.
Во ова сценарио проблемот не е „ВИ против човештвото“, туку човек вооружен со способности што претходно ги немал.
За многу експерти, токму овие ризици се пореални и понепосредни од сценаријата за суперинтелигенција што самостојно презема контрола.
А што ако апокалиптичните предупредувања се и добар маркетинг?
Постои и спротивната страна на дебатата.
Критичарите предупредуваат дека најголемите компании за вештачка интелигенција можат истовремено да имаат корист од претставувањето на сопствената технологија како исклучително моќна — па дури и потенцијално опасна.
Ако владите воведат скапи лиценци, задолжителни тестирања, огромни безбедносни барања и инфраструктурни стандарди, најголемите компании полесно ќе можат да ги исполнат од малите стартапи.
Тоа потенцијално би можело дополнително да ја концентрира индустријата во рацете на неколку големи играчи.
И драматичните предупредувања имаат уште еден ефект: индиректно испраќаат порака дека компаниите создаваат технологија толку моќна што би можела фундаментално да го промени светот.
Тоа само по себе може да привлече внимание, инвестиции и политичко влијание.
Но можниот деловен интерес не докажува дека предупредувањата се неискрени.
Двете работи можат да бидат вистинити истовремено: ризиците може да бидат реални, а компаниите во исто време да имаат корист од начинот на кој се зборува за нив.
Колку треба да веруваме во проценките од 10 или 20 проценти?
Тука е можеби најважната разлика.
Кога познат истражувач ќе каже дека гледа, на пример, 10 проценти веројатност за катастрофален исход, тоа не значи дека науката измерила ризик од 10 проценти.
Не постои експеримент во кој сме создале 100 суперинтелигенции и сме виделе дека десет од нив го уништиле човештвото.
Таквите бројки се субјективни експертски проценки во услови на огромна неизвесност.
Тие можат да бидат информирани од техничко знаење и искуство, но не треба да се претставуваат како измерена научна веројатност.
Значи, треба ли да се плашиме?
Науката денес не може сигурно да каже дали некогаш ќе биде создадена суперинтелигенција што ќе ги надминува луѓето во практично сите когнитивни области, ниту кога тоа би можело да се случи.
Уште помалку може прецизно да ја пресмета веројатноста дека таков систем би довел до глобална катастрофа.
Но постои нешто што веќе го знаеме.
Вештачката интелигенција станува поспособна, сè повеќе се поврзува со алатки и реални системи и постепено добива поголема автономија во извршувањето сложени задачи.
Токму затоа прашањето повеќе не е само „Колку паметна може да стане ВИ?“
Можеби поважното прашање е:
„Колкава моќ сме подготвени да им дадеме на системите пред целосно да разбереме како ќе ја користат?“
