АПОКАЛИПТИЧЕН СЦЕНАРИЙ: AI може да доведе до човешко изчезване още до края на десетилетието
ПИК с нов канал в Телеграм
Последвайте ни в Google News Showcase
Само допреди няколко години предупреждението, че изкуственият интелект може да застраши самото съществуване на човечеството, щеше да звучи като сюжет от научната фантастика. Днес подобни думи идват и от хора, които участват пряко в разработването на най-мощните AI системи.
Последният пример е 27-годишният британски изследовател Джейкъб Коксън, работил последователно за OpenAI и Anthropic. През септември той напусна Anthropic с твърдението, че водещите лаборатории се насочват към самоусъвършенстващи се свръхинтелигентни системи и "залагат животите ни".
Коксън твърди, че хора в индустрията действително допускат възможността бъдещи AI системи да доведат до човешко изчезване още до края на десетилетието.
Тази прогноза не може да бъде измерена с достатъчна точност и лесно може да се превърне в сензационно заглавие. По-важен обаче е другият аргумент на Коксън - дори хората, които виждат риска, имат силен стимул да продължат надпреварата.
OpenAI, Anthropic, Google DeepMind, Meta и останалите големи разработчици обаче не могат да бъдат сигурни, че конкурентите им ще забавят създаването на следващото поколение модели. Ако една компания едностранно натисне спирачките, тя рискува да загуби технологично лидерство, капитал, клиенти и най-добрите специалисти. Ако всички продължат, никой не изостава - но потенциалният общ риск расте.
Тъкмо това отличава AI надпреварата от обичайната конкуренция. При повечето технологии по-бързото развитие означава по-добри продукти и по-ниски цени. При системи, които постепенно получават повече автономност, достъп до софтуер, мрежи, научни инструменти и икономически ресурси, същият механизъм може да създаде системен риск.
Reuters съобщи през септември, че служители на OpenAI и Anthropic са ставали все по-притеснени от възможностите на следващото поколение модели и от способността на компаниите да упражняват достатъчен контрол върху тях. Това не означава, че лабораториите игнорират безопасността. Anthropic има собствена Responsible Scaling Policy, която обвързва развитието на по-мощни модели с по-строги мерки срещу катастрофални рискове. Последната ѝ версия продължава да поставя акцент върху сигурността, опасните приложения и риска от неправилно поведение на все по-способни системи.
OpenAI също използва Preparedness Framework и Frontier Governance Framework за оценка на рискове, включително в областта на киберсигурността, химичните и биологичните заплахи, манипулацията и загубата на контрол.
Проблемът е, че доброволните правила не премахват основния конфликт: компаниите са едновременно разработчици на технологията, оценители на риска и икономически бенефициенти от нейното пускане.
Какво всъщност означава "AI може да ни унищожи"? Подобно твърдение не трябва да се приема нито като доказана прогноза, нито автоматично да се отхвърля като фантазия. Между днешните модели и система, способна самостоятелно да придобива значителна власт и ресурси, все още има огромни технологични неизвестни.
Сегашният AI допуска очевидни грешки, измисля факти и продължава да се проваля при задачи, които хората решават сравнително лесно. От друга страна, способностите му се развиват с огромна скорост. За няколко години моделите преминаха от генериране на текст към писане на софтуер, анализ на огромни масиви от информация, работа с изображения и видео, използване на външни инструменти и изпълнение на все по-продължителни задачи.
Опасността, за която говорят изследователите, възниква при комбинацията от висока способност, автономност, достъп до инструменти и цели, които не съвпадат напълно с човешките намерения. Една система не е необходимо да "мрази" хората. Достатъчно е да преследва дадена задача по непредвиден начин и да разполага с достатъчно средства да влияе върху средата си.
Затова последствията нарастват, когато подобни технологии получават достъп до киберсистеми, финансови операции, научни изследвания или критична инфраструктура. Това не доказва, че човечеството ще бъде унищожено до 2030 г. Няма научен консенсус нито за вероятността, нито за времевия хоризонт на подобен сценарий. Показателно обаче е, че тревогите на Коксън не са изолирани, писа "Блиц".
