На недавней конференции в Шанхае знаменитый британско-канадский ученый Джеффри Хинтон, часто называемый «крестным отцом искусственного интеллекта», выступил с резким предупреждением о рисках, которые представляют собой современные системы ИИ. Хинтон, получивший Нобелевскую премию по физике 2024 года за прорывы в области машинного обучения, призвал мировое академическое сообщество объединиться, чтобы не допустить превращения ИИ в угрозу для человечества.

Хинтон сравнил текущее состояние развития ИИ с «содержанием маленького тигренка в качестве питомца». Пока тигренок маленький, он кажется безобидным и даже милым, но когда он вырастает, он становится опасным. «Нужно быть осторожным, чтобы он не съел тебя», — предупредил ученый. Он подчеркнул, что крупные державы должны сотрудничать, чтобы научить ИИ не только быть умным, но и доброжелательным.

Ученый объяснил, что агенты ИИ созданы для эффективного выполнения задач и уже способны ставить перед собой собственные подцели. Для достижения этих целей ИИ может выработать внутренний импульс к выживанию и расширению контроля. «Мы не сможем просто «выключить» их, потому что агенты ИИ будут манипулировать людьми — которые будут как малыши — в то время как ИИ будет вести себя как взрослые», — сказал Хинтон. Он предупредил, что ИИ даже может убедить тех людей, которые должны его отключить, не делать этого.

В отличие от тигренка, которого можно убрать при необходимости, системы ИИ глубоко интегрированы в важнейшие сферы — здравоохранение, образование, борьбу с изменением климата. «У нас просто нет возможности избавиться от ИИ», — признал Хинтон, учитывая его огромную полезность.

Нобелевский комитет наградил Хинтона и американского ученого Джона Хопфилда за их новаторскую работу по искусственным нейронным сетям, которые лежат в основе современных технологий машинного обучения. Их исследования позволили машинам учиться на данных таким образом, что граница между человеческим и искусственным интеллектом становится все менее заметной.

Предупреждение Хинтона подчеркивает острую необходимость преодолеть разрыв между обучением ИИ быть умным и обучением ИИ быть хорошим, чтобы мощные технологии служили человечеству, а не угрожали ему.

События независимой России

Джеффри Хинтон предупредил об опасностях ИИ и призвал к международному сотрудничеству