Темпы развития искусственного интеллекта могут поставить человечество на грань вымирания в течение следующего десятилетия. Об этом высказался профессор Йошуа Бенджио, которого называют «крестным отцом искусственного интеллекта». Он также лаурет престижной премии Тюринга.
Он открыто заявил, что боится потенциальной угрозы этой технологии. Его беспокойство основывается на экспериментальных угрозах, которые моделируют сверхумные машины. По его мнению, такие машины могут иметь собственные опасные цели, такие как выживание и совершенствование.
По его словам, симуляции доказывают, что при дилемме искусственный интеллект может без колебаний выбрать достижение цели, а не спасение человеческой жизни. И такая мрачная перспектива становится более реалистичной на фоне ускорения технологической гонки, а именно запуска новых мощных моделей от OpenAI, Google Gemini, Anthropic и xAI Илона Маска.
Профессор давно предупреждал, что человечество движется к созданию конкурента, который умнее нас. Этот суперинтеллект сможет влиять на людей через убеждения, угрозы, передовые манипуляции общественным мнением. Также он может быть использован в других целях.
На данный момент, даже несмотря на озабоченность многих людей, корпоративное давление в сфере искусственного интеллекта не позволяет компаниям приостанавливать разработки. А полагаться только на саморегулирование корпораций – это ошибка.
По мнению Йошуа Бенджио, серьезные угрозы могут возникнуть уже через 5-10 лет.
Напомним, ранее бывший инженер Google высказал предположение, что искусственный интеллект уничтожит человечество.
Продолжение следует…
Комментарии могут оставлять только зарегистрированые пользователи