Технгологическая сингулярность
Как нарушение законов роботехники может привести к кибернетическому коллапсу.
Авторы
Тэги
Тематические рубрики
Предметные рубрики
В этом же номере:
Резюме по документу**
Технологическая сингулярность
Как нарушение законов роботехники
может привести к кибернетическому коллапсу <...> О.О.Фейгин
Робот не может причинить вред человеку или своим бездействием
допустить, чтобы человеку был причинен вред. <...> Робот должен повиноваться всем приказам, которые отдает человек,
кроме тех случаев, когда эти приказы противоречат Первому Закону. <...> Робот должен заботиться о своей безопасности в той мере, в которой
это не противоречит Первому и Второму Законам. <...> Хоровод
Интеллект и квазижизнь
Еще в конце прошлого века, дискутируя
с многочисленными энтузиастами поиска
внеземного разума, выдающийся
британский физик Стивен Хокинг заявил,
что новый разум надо видеть в
искусственном интеллекте Всемирной
Сети. <...> Поисковик или почтовый сервер,
игнорируя ваше мнение, настойчиво
пытается закрепиться на домашней
странице, грубо расталкивая нужные
сайты в виртуальном пространстве. <...> Зловреднейшая форма
квазижизни — компьютерный вирус —
вполне способен превратить компьютер
в электронного зомби, рассылающего
спам или скачивающего в управляющий
центр личную информацию. <...> А может ли такой искусственный
интеллект выйти из виртуального пространства? <...> Яркий пример — умный дом, где в автоматическом
режиме регулируются температура,
влажность и освещение. <...> Уже появились
электронные замки, распознающие
хозяина по отпечаткам пальцев. <...> Вся эта электроника — прекрасная
среда обитания для кибернетической
квазижизни. <...> Опыты сотрудников Кевина
Уорвика по заражению вживленных
микросхем компьютерными вирусами
(см. <...> «Химию и жизнь», 2010, 7) свидетельствуют,
что проблема отнюдь не
надумана: сейчас нет никаких гарантий,
что в будущем электронный замок и умный
нагреватель, не говоря уже о газовой
плите, не смогут объединиться для
совершения какого-то злодейства по
чьей-то воле или из-за случайного сбоя. <...> По мнению экспертов
американского агентства DARPA,
задача которого — финансирование
перспективных оборонных <...>
** - вычисляется автоматически, возможны погрешности
Похожие документы: