Парламентарни избори | Съб, 27 Апр 2024г. 19:22ч. | Христо Иванов: Възстановява се формулата "турска баня с руски закуски"
Ръководителят на Tesla и SpaceX Илон Мъск, Стив Возняк, който е съосновател на Apple, историкът Ювал Харари и хиляди експерти са подписали открито писмо с призив да се преустанови разработването на усъвършенстван изкуствен интелект (AI). Текстът на писмото е публикуван от Института за бъдещето на живота (Future of Life Institute).
Авторите призовават разработчиците на изкуствен интелект да прекратят поне за шест месеца обучението на системи, базирани на AI, които са по-мощни от технологията зад чатбота ChatGPT (Generative Pre-trained Transformer), създадена от американската иновативна компания OpenAI. В открито писмо те предупреждават за потенциални рискове, пред които човечеството може да бъде изправено поради развитието на изкуствения интелект, предаде Ройтерс.
Експертите и лидерите в индустрията, подписали писмото, смятат, че обучението трябва да бъде спряно, докато не бъдат въведени общи протоколи за сигурност. Според тях, ако обучението не може да бъде спряно бързо, тогава властите "трябва да се намесят и да наложат мораториум".
Авторите на писмото смятат, че дори създателите на "мощни цифрови умове" не могат да ги контролират и съвременните системи с изкуствен интелект започват да се конкурират с хората.
"Следва да се запитаме: трябва ли да позволим на машините да наводнят информационните ни канали с пропаганда и неистина? Трябва ли да автоматизираме цялата работа, включително тази, която носи удовлетворение? Трябва ли да развием нечовешки умове, които в крайна сметка може да ни превъзхождат числено, да ни надхитрят, да ни изкарат от употреба и да ни заменят? Трябва ли да рискуваме да загубим контрол над нашата цивилизация?", се казва в писмото.
"Мощни системи, базирани на изкуствен интелект, трябва да се разработват, само когато сме сигурни, че от тях ще има полза и рисковете, които може да възникнат при тяхното развитие, ще бъдат управляеми", се казва в писмото. В него се описват потенциалните икономически и политически сътресения, с които може да се сблъска цивилизацията от страна на конкурентни на човека системи, базирани на AI.
Авторите призовават разработчиците на изкуствен интелект да работят с политиците и с регулаторните власти, за да бъдат предотвратени опасностите, които може да възникнат.
Главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото.
Европейската агенция за полицейско сътрудничество "Европол" предупреди в началото на седмицата, че чатбовете с изкуствен интелект, като ChatGPT, "имат и тъмна страна и са податливи на престъпни злоупотреби".
Сред подписалите се са главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от DeepMind, собственост на Alphabet, и водещи фигури в областта на изкуствения интелект - Йошуа Бенгио, често наричан един от "кръстниците на изкуствения интелект", и Стюарт Ръсел, пионер в изследванията в тази област.
Според регистъра за прозрачност на Европейския съюз Институтът за бъдещето на живота се финансира основно от фондацията на Мъск, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Silicon Valley Community Foundation.
Мъск, чийто автомобилен производител Tesla използва изкуствен интелект за системата за автопилот, е изразявал своите опасения относно изкуствения интелект.
След пускането си миналата година ChatGPT на OpenAI накара конкурентите си да ускорят разработването на подобни големи езикови модели, а компаниите - да интегрират генеративни модели на изкуствен интелект в своите продукти.
Миналата седмица OpenAI обяви, че си е партнирала с около дузина фирми, за да вгради техните услуги в чатбота си, позволявайки на потребителите на ChatGPT да поръчват хранителни стоки чрез Instacart или да резервират полети чрез Expedia.
Сам Олтман, главен изпълнителен директор на OpenAI, не е подписал писмото, заяви говорител на Future of Life пред Ройтерс.
"Писмото не е съвършено, но духът му е правилен: трябва да забавим темпото, докато разберем по-добре последствията", каза Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. "Големите играчи стават все по-потайни относно това, което правят, което затруднява обществото да се защити срещу каквито и да е вреди, които могат да се материализират."
Критиците обвиниха подписалите писмото, че насърчават "шумотевицата за изкуствения интелект", като твърдяха, че твърденията за сегашния потенциал на технологията са силно преувеличени.
"Подобни изявления имат за цел да повишат шумотевицата. Те имат за цел да накарат хората да се притеснят", казва Йохана Бьорклунд, изследовател на ИИ и доцент в Университета в Умео. "Не мисля, че има нужда да се дърпа ръчната спирачка."
Според нея, вместо да се спират изследванията, изследователите на ИИ трябва да бъдат подложени на по-големи изисквания за прозрачност. "Ако провеждате изследвания в областта на ИИ, трябва да сте много прозрачни относно начина, по който ги провеждате."
mediapool.bg
