Эксперты рассказали, что предотвратит восстание машин

  1. Главная
  2. Архив
  3. X-Files
  4. Эксперты рассказали, что предотвратит восстание машин
12:42, 12.07.17
Высокие технологии

Широкое распространение умных вещей, проникновение роботов и автоматических механизмов практически во все области деятельности человека вызывает у многих людей тревожное чувство и опасение перед возможным восстанием роботов, не раз описанным в научной фантастике и показанным в кино. Лидеры в разработке искусственного интеллекта, компании Google DeepMind и Open AI (основатель — Илон Маск), представили новый взгляд на обучение роботов для обеспечения большей безопасности человека и увеличения контроля над машинами с интеллектом.

Новое видение, представленное компаниями в совместной научно-исследовательской статье, указывает на необходимость обязать ИИ при решении принципиально новой задачи в обязательном порядке консультироваться с человеком. Такой подход сможет ограничить самостоятельность деятельности роботов, чь` рациональное решение может каким-либо образом принести дискомфорт или даже вред человеку. Основной проблемой при этом является определение баланса между рациональными и эффективными действиями и передача указаний машине. Например, наиболее эффективным способом уборки помещения, с точки зрения робота, может быть полное удаление из комнаты вещей, мебели и предметов обхода, что не устраивает самого хозяина помещения и вещей.

Впервые принцип «Робот не может причинить вред человеку» был сформулирован гениальным фантастом Айзеком Азимовым ещё в 1942 году. В произведении «Хоровод» были определены три закона роботехники, предотвращающие угрозу для человека со стороны роботов. Однако великий фантаст показал, что буквальное принятие этих законов также может привести к непредвиденным последствиям. Недавно снятый по мотивам произведений Азимова фильм «Я робот» показывает ситуацию, когда роботы восприняли запрет на причинение вреда человеку как команду к полному ограничению свободы действий и передвижения людей.

Для расширения возможности контроля принимаемых ИИ решений было предложено предоставление стимула машине при нахождении подходящего для человека ответа на разрешение проблемы. Таким образом, ИИ даже научили играть в элементарные компьютерные игры. Несмотря на увеличение затрат времени на обучение машин с использованием консультационного метода, растёт безопасность использования роботов и повышается контроль над искусственным интеллектом.

Новости по теме

Популярные новости

Новости о войне

Последние новости