ПИК с нов канал в Телеграм
Последвайте ни в Google News Showcase
Изкуственият интелект (AI) навлиза в нова фаза. Агентите, задвижвани от него, вече не само отговарят на въпроси, но и започват самостоятелно да изпълняват сложни, многоетапни задачи.
Преди обаче на тези системи да може да се повери резервирането на пътувания или извършването на финансов анализ от името на потребителите, разработчиците на модели и компаниите, които ги създават, искат да са сигурни, че те ще работят надеждно в широк спектър от сценарии.
AI лабораториите често използват бенчмаркове, за да демонстрират възможностите на своите модели. Високият резултат обаче, дори в тест, ориентиран към агенти, не доказва, че изкуственият интелект може да се справи коректно с различни сложни задачи от реалния свят.
Именно тук се намесва Patronus AI – стартъп, основан през 2023 г. от бившите изследователи в Meta AI Ананд Канапан и Ребека Цян. Тяхната компания помага на разработчиците да усъвършенстват моделите си, като изгражда симулирани дигитални среди, в които да оценяват представянето на AI агентите, пише TechCrunch.
Базираният в Сан Франциско стартъп очевидно решава важен проблем. Според Глен Соломон, управляващ директор в Notable Capital, почти всяка водеща AI лаборатория и много от новите компании в сектора вече са клиенти на Patronus.
Той описва търсенето на симулираните среди на компанията като „почти ненаситно“.
Приходите на Patronus са нараснали 15 пъти през последната година, което подхранва значителен инвеститорски интерес. В четвъртък компанията обяви, че е набрала 50 милиона долара в кръг от Серия Б, воден от Greenfield Partners. В него участват още Notable Capital, Lightspeed, Datadog и Samsung, с което общото финансиране на стартъпа достига 70 милиона долара.
Patronus използва така наречените „модели на дигитални светове“, за да създава копия на уебсайтове и вътрешни системи. В тези среди агентите се подлагат на стрес тестове след обучение чрез подсилващо учене (reinforcement learning) – процес, който итеративно възнаграждава успешното изпълнение на задачи и наказва грешките.
AI лабораториите виждат голяма стойност в тези дигитални симулации, защото те дават на агентите възможност да изпробват различни, понякога непредсказуеми сценарии. Компанията сравнява своя подход с начина, по който Waymo обучава автономни автомобили – първоначално чрез изграждане на синтетични светове за тестване на превозните средства срещу редки опасности, като екстремни метеорологични условия или дете, изскачащо на пътя.
Разликата при AI агентите е, че те са склонни да търсят „преки пътища“, което често води до неправилно изпълнение на задачата. „Patronus е наистина добър в откриването на тези „хакове“ и гарантира, че моделите се държат отговорни за действията си“, коментира Соломон.
В момента Patronus предоставя своите симулирани дигитални светове за сферите на софтуерното инженерство и финансите, но според Канапан това е само началото.
„Днес сме много фокусирани върху проблеми, които са проверими – такива, които можете веднага да проверите и потвърдите. Но има много повече области, които са много трудни за проверка“, обяснява той.
Това, че процесите са проверими, не означава, че са прости. „Искаме да можем да създадем среда, в която да работи агент, способен да функционира в продължение на 10 часа, 10 дни или дори 10 седмици“, добавя Канапан.
Що се отнася до конкуренцията, от Patronus вярват, че се състезават предимно с вътрешните екипи, които AI лабораториите вече са изградили за оценка на поведението на агентите.
Докато компании за човешки данни като Mercor и Surge помагат на разработчиците с подсилващото учене, Patronus работи по различен начин – като оценява как се държат агентите без никаква човешка намеса.
