Предотвратяването на изчезването на човечеството от „избягал“ изкуствен интелект трябва да бъде глобален приоритет от най-високо ниво, се казва в изявление на неправителствената организация Център за безопасност на изкуствения интелект, подписано от 350 видни учени и изследователи в областта на изкуствения интелект.
„Смекчаването на риска от унищожение от AI (Artificial Intelligence – Изкуствен Интелект) трябва да бъде глобален приоритет заедно с други рискове от обществен мащаб като пандемии и ядрена война“, се казва в изявлението.
Сред подписалите са главният изпълнителен директор на Google DeepMind Демис Хасабис, главният изпълнителен директор на Anthropic Дарио Амодей и главният изпълнителен директор на OpenAI Сам Алтман, който наскоро заяви пред Конгреса на САЩ, че се притеснява, че технологията може да се обърка „доста погрешно“ и ги призова да наложат регулации на индустрията. Тримата лидери в индустрията се срещнаха с президента на САЩ Джо Байдън и вицепрезидента Камала Харис по-рано този месец, за да обсъдят потенциалните регулации. Множество ръководители от техните компании също добавиха имената си към изявлението от вторник.
Джефри Хинтън и Йошуа Бенджио, смятани за „кръстници на изкуствения интелект“ заради работата им по невронните мрежи, са посочени първи в документа, въпреки че Ян Лекун, който направи изследването с тях и сега провежда изследвания на AI за Мета, не се подписа. Хинтън напусна позицията си в Google по-рано този месец, за да алармира за рисковете от AI и заяви, че понякога съжалява за работата на живота си.
Писмото е публичен апел на лидерите в индустрията, които преди това държаха опасенията си за бъдещето на AI в тайна, заяви изпълнителният директор на Центъра за безопасност на AI Дан Хендрикс пред New York Times във вторник.
„Има много често срещано погрешно схващане, дори в общността, разработваща изкуствен интелект, че има само шепа обречени“, обясни той, пояснявайки, че „много хора в частни разговори биха изразили опасения за тези неща“.
Съобщението повтаря друго отворено писмо, публикувано през март от Института за бъдещето на живота, в което се настоява за шестмесечен мораториум върху мащабните разработки на изкуствен интелект, за да се избегне „неконтролируема надпревара за разработване и внедряване на все по-мощни цифрови умове“. Това съобщение беше подписано от повече от 1 000 влиятелни фигури в областта на технологиите, включително милиардера Илон Мъск, който току-що получи одобрение от правителството на САЩ да продължи с тестването на хора на своя мозъчно-компютърен интерфейс Neuralink, който има за цел да даде на хората конкурентно предимство срещу AI.
Не всички AI инфлуенсъри обаче споделят това мнение. Главният изпълнителен директор на Nvidia Дженсън Хуанг наскоро заяви пред аудитория в Националния тайвански университет, че тези, които не внедрят изкуствения интелект, ще видят работните си места откраднати, компаниите им ще загинат и самите те ще бъдат изядени, поне метафорично, докато съоснователят на Microsoft Бил Гейтс, голям инвеститор в AI, настоява, че технологията ще донесе само „огромни ползи“.
Още по темата: Временна забрана на експериментите с изкуствен интелект искат Мъск и други технологични лидери
