Американские ученые нашли способ помешать роботам-андроидам выйти из-под контроля человека. Искусственный интеллект способен к самообучению, и, весьма вероятно, наступит тот день, когда человек не сможет его остановить. Команда разработчиков, занятых созданием искусственного интеллекта, изобрела систему частичного стирания памяти, не нарушающую способность андроида к обучению. Что-то вроде «нейтрализатора» из фильма «Люди в черном».

«Искусственный интеллект непременно будет стремиться избежать человеческого вмешательства и пытаться создать ситуации, где остановлен быть не может, — говорит Рашид Гуэрроу, преподаватель лаборатории EPFL в Луизиане. — Проблема не в том, чтобы остановить робота, а в том, чтобы изменить его поведение, не останавливая».

С беспилотными авто, самолетами и воздушными такси ситуация гораздо сложнее. Человек может взять управление в свои руки, но если, к примеру, он станет часто и без нужды тормозить, стиль движения машины навсегда останется рваным и путанным. При этом, машины способны учиться не только у человека, но и друг у друга.

Разработчики опробовали свою систему «безопасного прерывания» на уже существующих рабочих алгоритмах и утверждают, что их изобретение выдает минимум ошибок независимо от количества подключенных машин, сложности устройства и масштабности поставленных задач.

«Мы бы остановили Терминатора», — смеется Александр Маурер, один из авторов устройства.


Поделитесь в соцсетях: