Изкуственият интелект вече не просто изпълнява задачи — в нов експеримент той сам предлага методи за обучение, тества ги и подобрява поведението на други модели

Ново изследване на Anthropic показва, че AI агенти могат автономно да разработват и тестват методи за намаляване на определени проблеми в поведението на други модели. Резултатите са публикувани на 28 август и са базирани на експерименти с 10 различни категории т.нар. alignment failures — поведения, които изследователите не желаят да виждат в AI системите.

Сред изследваните проблеми са измамното поведение, прекомерното съгласяване с потребителя и заобикалянето на ограниченията.

Как работи системата?

Anthropic нарича подхода Automated Alignment Researcher (AAR).

Една от ключовите особености е, че системата не просто копира поведението на по-мощен модел. Идеята е самият предложен метод за обучение да доведе до подобрение.

Така се получава своеобразен автоматизиран цикъл:

изследване → идея → обучение → тест → подобрение → нов опит.

Резултатите са впечатляващи — но не означават „AI, който се самосъздава“

В експериментите най-добрите автоматизирани методи намаляват измерените alignment проблеми по всички 10 изследвани категории, като същевременно запазват общите способности на моделите.

Още по-интересно е, че част от методите продължават да работят и върху непознати за системата тестове и върху модели до 4,7 пъти по-големи от първоначално използвания.

Anthropic сравнява резултатите и с работата на 28 опитни човешки изследователи. Те са получили до осем часа, за да разработят свои методи. Според изследването най-добрите автоматизирани подходи са се представили по-добре от предложенията на хората. 

Това обаче не означава, че AI вече е способен напълно сам да създаде следващото поколение изкуствен интелект.

Човекът все още задава правилата

Има важна граница между този експеримент и истинското „самоусъвършенстващ се AI“.

Хората определят какъв проблем трябва да бъде решен, кои модели да бъдат използвани, как се измерва успехът и какви ограничения трябва да спазва системата.

С други думи, AI изследователят е автономен в рамките на предварително зададена научна задача.

Това е значително по-различно от сценарий, при който една машина сама определя какъв трябва да бъде следващият AI модел, създава го и след това използва новата му версия, за да направи още по-мощна.

Защо експериментът е важен?

Причината е проста: ако част от AI изследванията могат да бъдат автоматизирани, скоростта на разработване на нови методи може да се увеличи значително.

Днес за подобна работа са необходими специалисти, които трябва да четат научни публикации, да формулират хипотези, да пишат код, да провеждат експерименти и да анализират резултатите.

Автоматизираният изследовател може да извършва много от тези стъпки паралелно и в огромен брой итерации.

Именно тук се появява и по-големият въпрос: ако AI започне да помага при създаването на AI, може ли самият процес на развитие на изкуствения интелект да се ускори?

Следващата граница

Изследването на Anthropic не доказва, че сме достигнали до рекурсивно самоусъвършенстване или до изкуствен интелект, който напълно автономно създава все по-добри свои наследници.

То обаче показва нещо по-конкретно и може би по-важно: част от научната работа по разработването и обезопасяването на AI вече може да бъде възложена на самия AI.

Ако този подход се развие, бъдещите AI лаборатории може да изглеждат доста различно.

Човешките изследователи ще задават целите и ограниченията, а автоматизирани агенти ще генерират хиляди хипотези, ще ги тестват и ще отсяват най-добрите.

В такъв свят скоростта на технологичния прогрес няма да зависи само от това колко интелигентен е един AI модел.

Ще зависи и от това колко добре той може да помогне за създаването на следващия.