ИИ может уничтожить человечество

Многих уже давно волнует вопрос: сможет ли ИИ в ближайшей перспективе представлять реальную опасность для человечества и даже стать виновником его уничтожения?
По словам научного сотрудника Монреальского университета Йошуа Бенжио тот искусственный интеллект, который мы видим сейчас, не несет для человечества опасности. Однако больше пугает его стремительное развитие, и сложно сказать, будет ли он так полезен и безопасен через 5 или 10 лет. Нет четких определенностей – и это большая проблема.
Сегодня ИИ получает все больше ресурсов в распоряжение, подключается к важнейшей инфраструктуре (к примеру, энергетика, фондовые рынки, оборонная промышленность и т.д.). И это действительно может плохо обернуться для человечества – заверяет The New York Times.
Космолог из Калифорнийского университета в Санта-Крузе Энтони Агирре придерживается мнения, что в один прекрасный день большая машина, имеющая в распоряжении огромные ресурсы, просто станет неподконтрольной человеку, а значит и не сможет быть деактивирована.
В настоящее время, искусственный интеллект ограничен бесконечной петлей данных и не способен выйти за ее пределы. Однако разработчики неизбежно ведут к тому, что ИИ рано или поздно доведут до той степени, когда никаких ограничений перед ним уже не будет.
Огромные объемы данных, с которыми работают системы с ИИ, склоны приводить последние к неожиданным реакциям и поведению. Таким образом, формируются, так называемые, вредные привычки. Очевидно, что такое неконтролируемое поведение системы не принесет пользы человеку.
В мае 2023 года руководители многих компаний, занимающихся разработками в сфере искусственного интеллекта, опубликовали открытое письмо. Здесь они указали на то, что в перспективе ИИ может стать опасным для человечества наравне с глобальными войнами и пандемиями.
Глава OpenAI Сэм Альтман и вовсе посоветовал двигаться в сторону государственного регулирования всей отрасли по разработке и развитию искусственного интеллекта. В ходе своего посещения ОАЭ он призвал рассмотреть возможность создание новой структуры наподобие МАГАТЭ (Международное агентство по атомной энергии), с тем лишь отличием, что она будет осуществлять контроль за разработками в части ИИ.