168 дней за решеткой. Катерина Борисевич
Коронавирус: свежие цифры
  1. Привьют всех желающих. Стало известно, когда в ТЦ «Экспобел» откроется пункт вакцинации
  2. «Новые отношения меня не пугают». Одно утро с Юлией Курьян
  3. Старинные усадьбы и парки, храмы и марсианские пейзажи. Маршрут на длинные выходные
  4. «На 19 мая у него был обратный билет в Норильск». Что известно о докторе, которого задержали в Борисове
  5. Лукашенко пообещал «ягодки» по «делу о госперевороте» и вспомнил «убийства друзей-президентов»
  6. «Среди покупателей есть и обычные пенсионеры». В Минске переоткрылась ремесленная пекарня Lёn
  7. Ведущий химиотерапевт — о причинах рака у белорусов, влиянии ковида и о том, сколько фруктов есть в день
  8. Паша «Мясной король». Как популярный гродненский блогер занялся мясным мини-бизнесом, который вдруг «выстрелил»
  9. «Жена разбудила и говорит: «Слушай, ты уже не подполковник». Поговорили с лишенными званий экс-силовиками
  10. Как белорусские сигареты оказываются в опломбированных вагонах с удобрениями? Попытались найти ответ
  11. Семья минчан построила дом в дачном поселке и живет там круглый год. Вот как там все устроено
  12. «Не доводите ногти до такого». Эти специалисты работают со стопами и показывают видео не для слабонервных
  13. В какие страны пустят белорусов, привившихся непризнанными ЕС «Спутником V» или вакциной от китайской Sinopharm
  14. Эксперт рассказал, что можно посадить в длинные выходные, а что еще рано сажать
  15. Нарколог рассказала, почему стоит обращать внимание на состав алкоголя
  16. «Когда войну ведут те, кто уже проиграл». Чалый объясняет «красные линии» и угрозы Лукашенко
  17. Lada Vesta больше не лидер продаж, Rapid тоже нашли замену: какие машины сейчас покупают белорусы
  18. Участников канала «Армия с народом» приговорили к большим тюремным срокам
  19. Участвовавший в испытании «Спутника V» минчанин спустя полгода проверил, что ему вкололи
  20. До +26°С! Прогноз погоды на длинные выходные
  21. «Зимой мы здесь живем совершенно одни». История пары, которая переехала из города в деревню
  22. Лукашенко о заявлении на него в прокуратуру Германии: Не наследникам фашизма меня судить
  23. Нацбанк не аттестовал двух топ-менеджеров Альфа-Банка, в том числе председателя правления. Что говорят в банке
  24. 22 года назад пропал бывший глава МВД и оппозиционный политик Юрий Захаренко
  25. «Вы звоните в такое горячее время». Так получат ветераны ВОВ единовременные выплаты к 9 Мая или нет?
  26. Главный скандал «фигурки»: россияне выиграли золото Игр, но через 5 дней его вручили и канадцам. Как так?
  27. В Польше задержали самую крупную в истории партию контрабандных сигарет из Беларуси
  28. Почему появляются родинки? Онколог объясняет простыми словами
  29. Эксперт рассказал, что можно сажать рядом с помидорами, а что — нельзя
  30. «Он меня слышит, реагирует на голос». Что сейчас с Ромой, который вынес из огня брата


Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного выключения для самообучающихся алгоритмов. Об этом сообщает N+1 со ссылкой на Институт изучения машинного интеллекта (MIRI).

«Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», — пишут авторы исследования.

Они отмечают, что самообучающиеся алгоритмы могут со временем обнаружить какой-нибудь механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы — создание фреймворка, который не позволит искусственному интеллекту найти способ игнорирования команды отключения.

Также «большая красная кнопка» должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к «необратимым последствиям».

Вопросы безопасности, связанные с разработкой систем искусственного интеллекта, озвучивались и ранее. В 2015 году Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк и многие другие ученые, бизнесмены, знаменитости, исследователи и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, предостерегающее производителей оружия от создания полностью автономных боевых систем.

Читайте также:

Тест: сможете ли вы отличить робота от человека?

-10%
-10%
-20%
-12%
-10%
-20%
-10%
-25%