Открытое письмо ведущих экспертов по искусственному интеллекту в ООН: Остановите разработку роботов-убийц!
24 августа 2017 г.
Илон Маск и более 100 крупных лидеров и экспертов в области ИИ (ИИ) объединили собственные усилия, чтобы заверить ООН объявить о прямом запрете на технологии роботов-убийц..
Открытое письмо, подписанное Илоном Маском, Мустафой Сулейманом из Гугл Deepmind и 114 другими специалистами по искусственному интеллекту и робототехнике, призывает ООН не допустить «третью революцию войны», запретив разработку всех бортовых независимых боевых систем..
Открытое письмо, опубликованное во время крупнейшей в мире конференции интерфейса пользователя — IJCAI 2017, проходящей на данной неделе в Мельбурне, Австралия, — предупреждает о ближайшем будущем, в котором независимые машины смогут подбирать и нацеливать собственные цели, включая невинных людей, кроме истребителей противника..
«После разработки они позволят конфликту развиваться на более большом уровне, чем раньше прежде, и в намного короткие сроки, чем люди могут представить себе», — говорится в письме консорциума..
«Это может быть оружие террора, оружие, которое деспоты и террористы могут применить против ни в чем не повинного населения, а еще оружие, какое может быть взломано для нежелательного поведения».
Это не первый раз, когда Маск и прочие в его мире собрались вместе, чтобы привлечь интерес к угрозе, которую независимое оружие представляет для человечества..
Председатель совета директоров SpaceX и Tesla поддерживает OpenAI, некоммерческую организацию, занимающуюся продвижением этических исследований интерфейса пользователя..
Но, не обращая внимания на боязни, выраженные экспертами по ИИ, эти задержки с разработкой хорошего запрета на независимое оружие вызвали у определенных боязни, что опасности могут выйти за рамки нормативных требований, тем более с учетом скорости, с которой развиваются системы ИИ..
«У нас не хватает времени», — говорится в письме. «Как только ящик Пандоры откроется, закрыть его будет довольно не просто».
«Третья революция», к которой призывают участники кампании, делает роботов-убийц своего рода технологическим преемником историчного развития пороха и атомного оружия — новшеств, о которых не скажешь, что они улучшили мир, в котором мы живём..
Первый раз представители компаний, которые занимаются ИИ и робототехникой, из 26 стран мира, объединили собственные усилия, присоединившись к ряду предупреждений независимых ученых, например как Стивен Хокинг, Ноам Хомски и учредитель Apple Стив Возняк..
«Число популярных компаний и лиц, подписавших это письмо, увеличивает наше предупреждение про то, что это не гипотетически возможный сценарий, а очень реальная и очень животрепещущая тема, требующая срочных действий», — сказал родоначальник Clearpath Robotics Райан Гариепи..
«Мы не должны терять из виду тот момент, что, в отличии от остальных потенциальных проявлений ИИ, которые все еще находятся в области научной фантастики, независимые боевые системы в настоящий момент находятся на переднем крае разработки».
Это последнее заявление хотелось бы отметить — ситуация такая, что машины-убийцы с ИИ уже служат частью нашей реальности..
Независимые или полуавтономные возможности очень часто включаются в такое оружие, как охранный пистолет Samsung SGR-A1, дрон BAE System Taranis и подлодка Sea Hunter от DARPA..
Иначе говоря технологическое зерно для завтрашних роботов-убийц уже посеяно на земля, в воздухе и в воде, а эффектные законы, регулирующие эти смертоносные машины (и промышленность, решившую их делать), еще не написаны..
«Фактически любую технологию можно применять в хороших и скверных целях, и ИИ не отличается ничем», — сказал Тоби Уолш из Университета Нового Южного Уэльса, один из организаторов конференции IJCAI 2017..
«Это поможет решить большинство из насущных проблем, стоящих перед сегодняшним обществом … Но ту же технологию можно применять для создания независимого оружия, которое могло бы индустриализировать войну. Мы обязаны решить сегодня, чтобы подобрать будущее, которого мы хотим ».
По материалам Источник
