• В Беларуси
  • Наука
  • Интернет и связь
  • Гаджеты
  • Игры
  • Оружие
  • Архив новостей
    ПНВТСРЧТПТСБВС
  1. Как сложилась судьба участников групп, известных в 1990-е и 2000-е? Оказалось, очень по-разному
  2. Погибшего Шутова признали виновным, Кордюкову дали 10 лет. По делу о выстреле в Бресте огласили приговор
  3. «Стояла такая тишина, что можно было услышать жужжанье мухи». Как Хрущев развенчал культ Сталина
  4. Требования дать «план победы» — это вообще несерьезно. Ответ Чалого разочарованным
  5. Нацбанк ввел изменения для желающих открыть счета за границей, купить недвижимость или ценные бумаги
  6. «Магазины опустеют? Скоро девальвация?» Экономисты объяснили, что значит и к чему ведет заморозка цен
  7. Глава бюро ВОЗ в Беларуси: «Возможно, в 2022 году мы сможем сказать, что с пандемией покончено»
  8. Адвокат Статкевича отказался дать подписку о неразглашении, теперь его могут лишить лицензии
  9. «Самая большая покупка — 120 рублей». История Маргариты, которая работает продавцом в деревне
  10. Беларусь оказалась между Тунисом и Кувейтом по готовности к развитию передовых технологий
  11. «Произойдет скачок доллара — часть продуктов может исчезнуть». Вопросы про ограничения в торговле
  12. Жила в приюте для нищих, спаслась после теракта в США. Женщина, которая перевернула российскую «фигурку»
  13. Проверка слуха: Виктора Бабарико отпустили под домашний арест? Адвокат не подтверждает
  14. В Беларуси начинают делать особые тесты, чтобы проверить иммунитет после вакцины от COVID-19
  15. Журналистика не преступление. Как Катерина Борисевич готовила статью о «ноль промилле», за которую ее судят
  16. «Дешевле, чем в секонде». В модном месте Минска переоткрылся благотворительный магазин KaliLaska
  17. «Хватали всех подряд». Появилось полное видео действий силовиков 11 августа в магазине на Притыцкого
  18. Верховный комиссар ООН: В Беларуси беспрецедентный по масштабу кризис в области прав человека
  19. Верховный суд отменил летнее решение о сутках. Районный суд рассмотрел дело заново и опять назначил арест
  20. «Люди с дубинками начали бить машину, они были везде». Судят водителя, который уезжал от силовиков и сбил гаишника
  21. «Они только успели поставить машину на платформу». Минчанин отказался платить за эвакуацию, и вот чем это закончилось
  22. «Политических на зоне уважают». Поговорили с освободившимся после 6,5-летнего срока политзаключенным
  23. Помните дом на Хоружей, где был магазин «Звездочка»? Там капремонт, вот как теперь выглядит фасад
  24. Биатлонистка Блашко рассказала, как ей живется в Украине и что думает о ситуации в Беларуси
  25. Гинеколог и уролог называют типичные ошибки пациентов на приеме. Проверьте, не совершаете ли вы их
  26. Лукашенко поручил госсекретарю Совбеза разработать план противостояния «змагарам и беглым»
  27. Голосование на сайте ВНС и обвинительный приговор Шутову. Что происходит в стране 25 февраля
  28. Поставщики сообщили о сложностях у еще одной торговой сети
  29. Экономист: Есть ощущение, что сменись Лукашенко даже на силовика, часть людей вернется в Беларусь
  30. Что сулит Беларуси арест украинской «трубы», которую в 2019 году купил Воробей?


Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного выключения для самообучающихся алгоритмов. Об этом сообщает N+1 со ссылкой на Институт изучения машинного интеллекта (MIRI).

«Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», — пишут авторы исследования.

Они отмечают, что самообучающиеся алгоритмы могут со временем обнаружить какой-нибудь механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы — создание фреймворка, который не позволит искусственному интеллекту найти способ игнорирования команды отключения.

Также «большая красная кнопка» должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к «необратимым последствиям».

Вопросы безопасности, связанные с разработкой систем искусственного интеллекта, озвучивались и ранее. В 2015 году Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк и многие другие ученые, бизнесмены, знаменитости, исследователи и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, предостерегающее производителей оружия от создания полностью автономных боевых систем.

Читайте также:

Тест: сможете ли вы отличить робота от человека?

-25%
-20%
-50%
-40%
-20%
-50%
-10%
-25%
-90%
0072641