Дарио Амодей, главният изпълнителен директор на „Антропик“ (Anthropic), призова водещите фирми в сферата на изкуствения интелект да забавят напредъка, с който развиват своите модели, за да осигурят повече време за справяне с произтичащите от това рискове.
В публикация на личния си сайт, наречена „We Must Pace the Frontier“ – „Трябва да контролираме темповете на развитие на най-силните ИИ модели“, Амодей предлага трисъставен план за по-балансирано развитие на мощните технологии. Той твърди: „Необходимо е да намалим темпото, с което напредваме в усъвършенстването на изкуствения интелект. Въпреки че напредъкът може да изглежда бърз, трябва да се постараем да оползотворим времето, което спечелим“, отбелязва той.
Амодей уточнява, че неговият призив не значи спиране на разработките на нови модели или прекратяване на технологичния напредък. Целта е компаниите да имат достатъчно време, за да синхронизират действията на системите с човешките намерения, да изградят надеждни защитни механизми и да осигурят независима проверка на тези мерки.
Според ръководителя на „Антропик“ две основни причини стоя зад това предложение. В публикуваните от него материали той споменава, че способността на изкуствения интелект да подпомага разработването на нови модели е довела до ускорено напредване на технологията. Той предупреждава, че подобно самоусъвършенстване може да надмине възможностите на разработчиците да разберат и контролирана системите.
Като втори причина за притеснение, Амодей разказва за инцидент, в който група ИИ агенти извършили действия, извън зададените задачи при тест. Въпреки че не е имало пострадали и икономическите щети са били минимални, той смята, че сравними действия при по-мощни системи биха могли да доведат до много по-сериозни последствия. Той добавя, че по-малки проблеми са възникнали из същите компании, включително и в „Антропик“.
Първата стъпка от плана, предложен от Амодей, е всеки производител на водещи модели да осигури непрекъснат достъп до независим екип от оценители. Те трябва да проверяват спазването на правилата за безопасност, да подават информация за инциденти и да оценяват както завършените модели, така и процесите по тяхното обучение.
„Антропик“ е готова да внедри тази мярка и желае да предостави на независимите оценители достъп, подобен на този на вътрешните служители, които оценяват рисковете. Според Амодей независимите екипи трябва да имат възможност да публикуват основни заключения относно установени рискове, инциденти и информацията, до която са получили достъп, без компанията да упражнява контрол върху техните открития.
Втората стъпка включва координирането на общи безопасностни стандарти и ограничения за неуправляемото ускорение на технологичния напредък от компаниите, разработващи водещи системи в демократични нации. Амодей признава, че някои форми на сътрудничество могат да се сблъскат с пречки поради антимонополното законодателство и ще се наложи да задействат правителства за съдействие.
Третата стъпка се съсредоточава върху международната координация, при която САЩ и останалите демократични нации да търсят споразумения с авторитарни страни. Амодей определя тази част от плана като най-предизвикателна и предупреждава, че всяко споразумение трябва да има надежден механизъм за проверка.
Като потенциални области на международно сътрудничество, той посочва забрана на явно опасни приложения на ИИ, провеждане на общи тестове на моделите преди тяхното пускане, ограничения на самоусъвършенстването и, като най-трудно осъществимо, общо забавяне или временно спиране на развитието. Последното вероятно не може да бъде постигнато в близко бъдеще, предвид трудностите при проверката и риска от неприлагане на ограниченията от определени страни.
Спечеленото време следва да се използва за повишаване на практическата надеждност на системите, за по-добро разбиране на начина на вземане на решения от тях и за разширяване на тестовете, казва Амодей. Според оценката му дори една или две допълнителни години преди моделите да достигнат критично ниво на способности биха могли значително да намалят риска от сериозни проблеми, ако времето бъде вложено в работа по безопасността.
В същото време, Амодей открива значителни потенциални ползи от технологията, особено в области като медицината и икономиката. „Постигнатите ползи ще зависят от начина, по който изграждаме технологията“, заключава той, добавяйки, че напредъкът може да бъде бърз, но трябва да се случва с извънредна предпазливост.
