Нобелевский лауреат встревожен развитием ИИ, который сам же помог создать
Американский ученый, получивший в 2024 году Нобелевскую премию по физике за свои новаторские работы в области искусственного интеллекта, заявил, что считает последние достижения в этой технологии «очень тревожными» и предупредил о возможной катастрофе, если их не сдержать.
Выступая перед аудиторией Принстонского университета через видеосвязь из Великобритании, 91-летний профессор отметил, что за свою жизнь наблюдал рост двух мощных, но потенциально опасных технологий: биологической инженерии и ядерной физики.
Мы привыкли к технологиям, которые могут быть как полезными, так и вредными, — сказал Хопфилд. - Как физика, меня очень беспокоит то, что мы не можем полностью контролировать и понимать, особенно если не знаем, какие ограничения можно наложить на эту технологию.
Он подчеркнул, что современные системы ИИ, хотя и выглядят как "абсолютные чудеса", работают по принципам, которые до конца не ясны ученым.
Это очень, очень тревожно, — добавил он.
По его мнению, необходимо глубже изучать внутренние механизмы глубоких нейронных сетей, чтобы предотвратить возможный выход ИИ из-под контроля.
Джон Хопфилд известен созданием "сети Хопфилда" — теоретической модели, демонстрирующей, как искусственная нейронная сеть может имитировать процесс хранения и извлечения памяти в биологическом мозге. Его работа стала фундаментом для дальнейших исследований в области ИИ.
Британско-канадский ученый Джеффри Хинтон, часто называемый "крестным отцом ИИ", развил модель Хопфилда, введя элемент случайности в "машине Больцмана". Это проложило путь к современным приложениям ИИ, таким как генераторы изображений.
Джеффри Хинтон также выразил свои опасения по поводу будущего ИИ.
Существует очень мало примеров того, когда более разумные существа контролируются менее разумными, — сказал 76-летний профессор на пресс-конференции в Университете Торонто. Это заставляет задуматься: когда ИИ станет умнее нас, не возьмет ли он контроль в свои руки?
Хопфилд сравнил ситуацию с научно-фантастическим сценарием из романа Курта Воннегута "Колыбель для кошки", где искусственно созданное вещество приводит к гибели цивилизации.
Меня беспокоит все, что говорит: 'Я быстрее тебя, я больше тебя... Можем ли мы мирно сосуществовать?' Я не знаю, я переживаю, — отметил он.
Оба ученых призывают к проведению более глубоких исследований в области безопасности ИИ.
Мы срочно нуждаемся в большем количестве исследований, чтобы понять, как избежать катастрофических сценариев, — подчеркнул Хинтон.
Он предложил, чтобы лучшие молодые исследователи занимались вопросами безопасности ИИ, а правительства обязали крупные компании предоставлять необходимые вычислительные ресурсы для этих исследований.