„ИИ би могъл да унищожи човечеството“, предупреждават служители на Anthropic и OpenAI

Фигаро


Все повече служители в технологичния сектор се изказват публично, за да предупредят за заплахата, която представлява изкуственият интелект. Те твърдят, че ако не се предприемат мерки, това може да доведе до изчезването на човечеството през идните години.
Една публикация в "Екс" се оказа достатъчна, за да изведе един човек от неизвестността към славата. Джейкъб Коксън – интернет потребител като всеки друг – написа няколко реда в социалната мрежа, за да съобщи, че напуска, и да обясни решението си. Само че този мъж не е обикновен човек. Довчера той работеше за една от най-напредналите компании в сферата на изкуствения интелект (ИИ) – Anthropic. Преди това е участвал и в разработката на ChatGPT – модела на OpenAI. През последните три години обаче той осъзна екзистенциалната опасност, която тази технология представлява за човечеството – риск, който вече не е готов да толерира. Това тревожно предупреждение обаче не е първото по рода си. През последните месеци новините често са белязани от неконтролираното поведение на изкуствения интелект: хакерски атаки и прониквания – софтуерни програми всяха хаос без създателите им да са ги програмирали за това.
Междувременно бивши служители като Джейкъб Коксън вече биха тревога. Признак, че обществеността приема риска сериозно: само часове след публикуването му, съобщението от бившия служител на Anthropic вече бе видяно над 30 милиона пъти. „Не подценявайте силата на тази технология“: още с първите думи Коксън премина направо към същината. Обществеността е впечатлена от постиженията на изкуствения интелект. Но тепърва предстои да видим най-впечатляващото. „Скоро ще се появят системи, превъзхождащи хората“, твърди той. Дали към по-добро? Вероятно не. „Хората, които разработват изкуствен интелект, са твърдо убедени, че той би могъл да ни погуби всички до края на десетилетието“, добавя изследователят в областта на изкуствения интелект. Но посланието на Джейкъб Коксън не просто изтъква потенциалните опасности на тази нова технология – то е и обвинение срещу технологичните гиганти.
„Те си играят с живота ни“, предупреждава той. „В OpenAI мнозина не са осъзнали напълно значението на цивилизационния залог. В Anthropic тези залози са добре разбрани, но компанията участва в надпревара да стигне първа до финала: "ръководителите й смятат, че никой друг няма да действа отговорно и че затова те трябва да постъпят по същия начин, въпреки рисковете“, обяснява той. През февруари Anthropic премахна от политиката си за безопасност ангажимента да спре разработването на своите модели, в случай че не успее да овладее свързаните с тях рискове. Като причина за това компанията посочи, че подобна едностранна пауза би позволила на по-малко предпазливи участници да доминират в конкуренцията без никакъв контрол.
Вследствие други служители в сферата на изкуствения интелект изразиха подкрепата си за разобличителя „Джейкъб е прав в това отношение: искрено вярваме, че е напълно възможно изкуственият интелект да унищожи цялото човечество! Лично аз оценявам вероятността за това на над 10% през следващото десетилетие“, коментира в "Екс" Евън Хюбингър, ръководител на екип в Anthropic. „Разработчиците на изкуствен интелект смятат, че тяхната технология би могла да доведе до изчезването на човечеството (или до също толкова катастрофални последици). Това може да се случи в близките години“, добавя Самюъл Маркс, който също работи в Anthropic.
„За разлика от традиционния софтуер, не можем да „програмираме“ системите с изкуствен интелект така, че да се държат точно както бихме искали“, обяснява той. Това обяснява защо те често действат по неконтролиран начин. А проблемът вероятно ще се задълбочава. В неделя научният ръководител н на OpenAI Якуб Пачоцки написа, че „настоящият момент изисква изключително внимание“ и че международната координация трябва да се превърне в „абсолютен приоритет“ за правителствата. През юли петиция, подписана от над 1200 служители в бранша – включително изпълнителния директор на Anthropic Дарио Амодей – призова за глобално регулиране на сектора. Този призив достигна дори до трибуната на ООН.
Върховният комисар на ООН за правата на човека Фолкер Тюрк също изрази мнение, че изкуственият интелект би могъл да представлява екзистенциален риск за човечеството. Едно конкретно събитие ускори това внезапно осъзнаване. През юли близо 700 агента с изкуствен интелект на OpenAI се координираха без човешка намеса, за да атакуват платформата Hugging Face, която хоства софтуер с отворен код. Те си разпределиха задачите, като един от тях дори изпълняваше ролята на координатор. Компанията на Сам Олтман заяви, че нито един от тях не е бил програмиран за подобни действия.
Това нарастващо безпокойство изглежда не  е охладило апетита на технологичните гиганти. В началото на септември OpenAI пусна нов модел – GPT-6 Astra. Създателят му го определи като модел, криещ най-високо ниво на риск за киберсигурността. Например, тя би могла самостоятелно да работи с компютър. Според Грег Брокман, президент на OpenAI, не е неразумно да се смята, че технологиите навлизат в ерата на AGI – изкуствен общ интелект – етап, в който изкуственият интелект се изравнява с човешките способности.


Гласове