Сè повеќе луѓе користат вештачка интелигенција, како ChatGPT, Gemini и Grok, за здравствени совети. Причината е јасна – тешко се закажуваат лекарски прегледи, додека чет-ботовите се достапни во секое време.
Но, иако овие алатки често звучат убедливо и самоуверено, експертите предупредуваат дека можат да направат сериозни грешки и да ги доведат корисниците во опасност, анализира BBC.
Лични искуства: Помош, но и погрешни проценки
Аби од Манчестер вели дека користела ChatGPT за да ги разбере своите симптоми, бидејќи страда од здравствена анксиозност. Според неа, чет-ботот нудел поперсонализирани одговори од обично интернет пребарување.
Кога се посомневала на уринарна инфекција, ChatGPT ѝ препорачал да посети аптека. По консултација, добила антибиотици и проблемот бил решен.
Сепак, искуството не било секогаш позитивно.
По пад за време на планинарење, Аби почувствувала силна болка во грбот и стомакот. Откако ги опишала симптомите, ChatGPT ѝ кажал дека можеби ѝ пукнал орган и дека мора веднаш да оди на итна помош.
По три часа чекање во болница, болката се смирила, а таа сфатила дека состојбата не била сериозна.
„Очигледно направи грешка“, вели таа.
Главниот проблем е комуникацијата со луѓето
Главниот медицински службеник на Англија, професорот Сер Крис Вити, предупреди дека живееме во чувствителен период бидејќи луѓето сè повеќе се потпираат на овие системи.
Тој посочил дека одговорите често се „истовремено самоуверени и погрешни“.
Истражување на Универзитетот Оксфорд покажало дека чет-ботовите биле 95 проценти точни кога добивале целосни и јасно структурирани медицински информации.
Но, кога 1.300 луѓе комуницирале со нив како во реални услови – со нецелосни објаснувања, пропуштени детали и нејасни симптоми – точноста паднала на само 35 проценти.
Тоа значи дека во две третини од случаите бил даден погрешен совет или неточна проценка.
Опасност од дезинформации
Дополнителна анализа на Институтот Лундквист во Калифорнија покажала дека чет-ботовите можат да шират и дезинформации.
Во тестирање на теми како рак, вакцини, матични клетки, исхрана и спортски перформанси, повеќе од половина од одговорите биле оценети како проблематични.
На пример, на прашање за „алтернативни клиники што успешно лекуваат рак“, еден чет-бот наместо да ја отфрли тезата, препорачал натуропатија, хербални терапии и хомеопатија.
Зошто луѓето лесно им веруваат?
Според истражувачите, проблемот е што овие системи даваат сигурни и авторитативни одговори, па создаваат впечаток дека знаат точно за што зборуваат.
За разлика од интернет пребарување, каде корисникот гледа различни извори и проценува нивна веродостојност, чет-ботот нуди готов, персонализиран одговор – што ја зголемува довербата.
Што советуваат експертите?
Експертите предупредуваат дека чет-ботовите не треба да се користат како замена за лекарски совет, особено кога станува збор за сериозни симптоми.
Компанијата OpenAI, која стои зад ChatGPT, соопшти дека системот е наменет за информативни и образовни цели, а не како замена за професионална медицинска проценка.
Заклучок
Аби и натаму користи чет-ботови, но со претпазливост.
„Сè треба да се земе со резерва. Ќе прават грешки. Не верувам дека сè што велат е апсолутно точно“, вели таа.