OpenAI отменя внедряването на новия модел поради опасения за безопасността
ПИК с нов канал в Телеграм
Последвайте ни в Google News Showcase
OpenAI няма да пусне новия си AI модел GPT-6.1 Astra поради опасения за безопасността, потвърди производителят на ChatGPT във вторник, цитиран от BBC.
Системата с изкуствен интелект, която изпълнява задачи като сърфиране в интернет и използване на приложения самостоятелно, „не отговаря напълно на стандартите“ на компанията, каза Саачи Джайн, ръководител на системите за безопасност в OpenAI.
Във вторник OpenAI публикува и актуализация за инциденти, случили се през юни, но оповестени публично едва миналата седмица, при които моделите на компанията са получили достъп до уебсайтове и системи на австралийското правителство без разрешение.
Тези инциденти и подобни нарушения от модели, разработени от големи фирми за изкуствен интелект, през последните седмици засилиха дебата относно рисковете, породени от технологията.
Водещи лидери в областта на изкуствения интелект, включително Сам Алтман от OpenAI и шефът на Anthropic Дарио Амодей, призоваха индустрията да забави темпото на развитие поради опасения относно рисковете, свързани с технологията.
Решението на OpenAI, което беше съобщено за първи път от Wall Street Journal, е рядък случай, в който голям разработчик на изкуствен интелект оттегля нова версия поради опасения за безопасността.
Моделът не успя да „спази обхвата и оторизацията, както и начина, по който съобщава на потребителя за вида работа, която е извършена“, каза Джейн.
„Искаме да сме сигурни, че разработването на нашия модел е безопасно, независимо дали това е в компанията или когато го доставяме на потребителите. Но когато го доставяме на потребителите, имаме изключително висока летва по отношение на безопасността и съответствието“, добави тя.
Флагманският агентен модел GPT-6 Astra беше пуснат през септември и е специализиран в сложно мислене и автономно изпълнение на задачи. OpenAI заяви, че е резултат от „години изследвания и големи залози“.
OpenAI ще проведе годишната си конференция за разработчици DevDay в Сан Франциско във вторник, където се очаква да направи няколко съобщения. Не е ясно дали сред тях ще бъде и нова версия на Astra.
Контролът за сигурност на компанията е подложен на задълбочен контрол след няколко нашумели инцидента, свързани с нейните технологии.
Хакерски атаки в Австралия
Миналата седмица австралийският премиер Антъни Албанезе обяви, че нелоялен агент на OpenAI е хакнал правителствени уебсайтове и системи през юни, което според експерти е първият известен случай от този род в света.
Албанезе критикува OpenAI за това, че е уведомила австралийското правителство чрез общ имейл адрес, вместо да осъществи директен контакт с длъжностни лица.
В изявление във вторник OpenAI заяви, че съжалява за инцидента и че „е трябвало да се справи по-добре с реакцията си“.
OpenAI уточни, че са засегнати Services Australia, Бюрото за статистика и изследвания на престъпността на Нов Южен Уелс, Министерството на здравеопазването на Виктория и Австралийският институт по здравеопазване и благосъстояние.
Фирмата заяви, че е започнала разследвания на инцидентите веднага щом е разбрала за тях в средата на август и е уведомила засегнатите организации между 10 и 24 септември.
