Не сейчас, но в будущем и при условии, что текущий темп развития технологий сохранится
Экс-инженер Google и Microsoft, а ныне глава некоммерческой организации Machine Intelligence Research Institute Нейт Соарес оценил вероятность вымирания человеческой цивилизации по вине искусственного интеллекта минимум в 95% в случае, если технологии и дальше будут развивать текущими темпами. Его слова цитирует издание The Times в новом материале.
Согласно статье, актуальные системы еще находятся в начальной стадии — сегодня это просто инструмент для людей. Но в будущем они сначала достигнут равных с человеческим интеллектом возможностей (стадия общего искусственного интеллекта или ОИИ), а затем и вовсе превзойдут его (стадия искусственного сверхинтеллекта или ИСИ). Так что в перспективе ИИ станет самостоятельным и сможет принимать решения, планировать, ставить цели, обучаться, развиваться. А когда он обгонит людей по способностям, то сможет контролировать термоядерный синтез, создать лекарство от рака и так далее.
Проблема (и как следствие угроза) в том, что решения ИИ контролировать нереально. Кроме того, такие технологии способны к систематическому обману. Все может привести к страшным последствиям. Один из сценариев, описываемых в материале The Times, следующий — выпуск искусственным интеллектом биологического оружия, которое незаметно заразит большие города.
Я не говорю, что мы не сможем остановить эту машину. Просто мы несемся на всех парах к обрыву.
Нейт Соарес
До этого об угрозах, связанных с ИИ, говорил генеральный директор OpenAI Сэм Альтман. Он заявил, что мир стоит на пороге волны мошенничества, вызванной развитием технологий, так как те уже могут идеально имитировать голоса, а скоро сумеют проводить и видеозвонки, которые не отличишь от реальных.
