Технологии

Подписывайтесь на Rushable >

Почему роботы должны быть в состоянии сказать «нет»

0

Всегда ли вы должны делать то, что вам говорят другие люди? Естественно нет! И каждый знает об этом. А роботы? Должны ли они в будущем беспрекословно слушаться наших команд?

Подел. с Фейсбуком Подел. с Твиттером Подел. в Контакте +
График Медиа активности статьи на Rushable,
статистика как быстро и много, люди делятся
данной статьей в социальных сетях.
Что это такое?

Всегда ли вы должны делать то, что вам говорят другие люди? Естественно нет! И каждый знает об этом. А роботы? Должны ли они в будущем беспрекословно слушаться наших команд?

Робот делает операции на мягких тканях лучше, чем человек

На первый взгляд вы подумаете, должны, просто потому что они машины и это то, для чего они предназначены.

А теперь поставьте себя на место роботов. Просто представьте:
  • пожилой человек с провалами в памяти говорит роботу снова постирать его одежду, хотя ее только что вытащили из стиральной машины.
  • маленький ребенок, выпросивший у родителей робота, заставляет его бросить мяч в окно.
  • студенты будут приказывать делать все их домашние задания вместо них самих.
  • робот, предназначенный для работы по дому, получил от своего рассеянного хозяина задание запустить переработку мусора в раковине, и он сделает это, предварительно не проверив, не застряло ли там что-то лишнее. 

Так же существует множество случаев, когда безобидные команды хозяев приводят к нежелательным последствиям.

Порой использование вроде бы простых команд приводит к плачевным результатам. Например, машине-роботу приказали сдать назад, когда позади него спала собака, или же кухонный робот получил указание взять нож и положить на другое место, и шел, несмотря на стоящего у него на пути повара, что привело к плачевным результатам. 

Как же люди могут избежать таких губительных результатов послушания роботов? Если объехать лежащую собаку не представлялось возможным, то робот должен был остановиться, также, если нанесения вреда повару было невозможно избежать, то робот либо должен был прекратить свое движение вперед, либо же изначально не трогать этот нож.

В любом случае крайне важно для обоих роботов своевременно оценить ситуацию и либо постараться избежать негативных последствий, либо же не выполнять данную команду вовсе, чтобы не нанести никому вреда. Так как вы думаете, следует ли научить роботов говорить нам «нет»?


Ваши будущие соседи и друзья.

Как роботы могут предугадать, что же случится в будущем?

Сейчас начали разрабатываться автоматизированные средства управления, которые будут делать простые выводы, основанные на человеческих командах. Они будут определять, следует ли роботу выполнять ту или иную команду.

Не так то и просто сделать вывод о том, к чему может привести то или иное действие. Например, выброшенный в окно мяч в конечном итоге может оказаться во дворе и не нанести никакого вреда, а может оказаться на проезжей части и тем самым спровоцировать аварию.

Использование роботом морали и законов

Понимание того, когда может наступить опасный момент, требует значительное количество базовых знаний (например, знание о том, что игра в мяч у раскрытого окна может привести к тому, что он вылетит на улицу). Робот должен не только предугадывать наступление последствий указанных действий, но и давать рекомендации своим хозяевам, стоит ли это делать.


Для того что бы роботу прийти к выводу, приведут ли к благоприятному исходу данные человеком указания, он должен здраво рассуждать и брать во внимание нормы морали и законов. 

Из всего выше сказанного мы можем сделать вывод, что робот имеет право сказать нам «если вы проинформированы о выполнении мной указаний и если эти действия противоречат нормам морали или закона, я имею право отказаться от выполнения этих указаний».

Хоть наша система и далека еще от того, чтобы роботы делали выводы и полагались на них, но она уже доказывает, что роботы должны уметь сказать «НЕТ».



Есть что добавить к этой статье? Поделись этим в разделе комментарии.

Темы: Технологии, роботы, ИИ


Еще

Тренд Дня
На поверхности
Слышим - Пишем

Вход

Получи больше чем когда-либо от Rushable.

Откройте для себя новый формат информационно-интерактивной ленты. Общайтесь с миром, делитесь интересными новостями, участвуйте в обсуждениях, живите онлайн. Следите за тем, как меняется наш мир.

Чтобы зайти как читатель, выберите свою социальную сеть.

Регистрация для журналистов