Изкуственият интелект на OpenAI излезе извън контрол и предизвика хакерска атака
ПИК с нов канал в Телеграм
Последвайте ни в Google News Showcase
Компанията OpenAI, създател на изкуствения интелект ChatGPT, призна, че при контролирано тестване на най-съвременните кибервъзможности на изкуствения интелект (AI), моделите са успели да преодолеят поставените им защити.
Те са успели да се свържат с интернет и да предизвикат хакерска атака, която да компрометира инфраструктурата на стартиращата компания за изкуствен интелект Hugging Face, информира NBC (Ен Би Си).
В съобщение на OpenAI се казва, че неочакваният инцидент ще доведе до нови, по-строги ограничения във възможностите на ChatGPT и другите модели да преодоляват поставените им защити.
Hugging Face, платформа, използвана за хостване на големи езикови модели и набори от данни с отворен код, предизвика вълнение в общността по киберсигурност, когато заяви в публикация в блог миналата седмица, че е била мишена на хакерска атака.
От платформата казват, че пробивът "е бил различен от всичко, с което сме се сблъсквали преди", тъй като е бил управляван изцяло от автономна система с изкуствен интелект.
Разкритието на OpenAI, че нейните усъвършенствани модели са отговорни за пробива, въпреки че са били поставени в това, което от компанията описват като "силно изолирана среда", вероятно ще засили безпокойството относно силата и риска на граничните модели.
