Открытое письмо ведущих экспертов в области искусственного интеллекта в оон. остановите разработку роботов-убийц!

Открытое письмо ведущих экспертов по искусственному интеллекту в ООН: Остановите разработку роботов-убийц!

24 августа 2017 г.

Открытое письмо ведущих экспертов в области искусственного интеллекта в оон. остановите разработку роботов-убийц!

Илон Маск и более 100 крупных лидеров и экспертов в области ИИ (ИИ) объединили собственные усилия, чтобы заверить ООН объявить о прямом запрете на технологии роботов-убийц..

Открытое письмо, подписанное Илоном Маском, Мустафой Сулейманом из Гугл Deepmind и 114 другими специалистами по искусственному интеллекту и робототехнике, призывает ООН не допустить «третью революцию войны», запретив разработку всех бортовых независимых боевых систем..

Открытое письмо, опубликованное во время крупнейшей в мире конференции интерфейса пользователя — IJCAI 2017, проходящей на данной неделе в Мельбурне, Австралия, — предупреждает о ближайшем будущем, в котором независимые машины смогут подбирать и нацеливать собственные цели, включая невинных людей, кроме истребителей противника..

«После разработки они позволят конфликту развиваться на более большом уровне, чем раньше прежде, и в намного короткие сроки, чем люди могут представить себе», — говорится в письме консорциума..

«Это может быть оружие террора, оружие, которое деспоты и террористы могут применить против ни в чем не повинного населения, а еще оружие, какое может быть взломано для нежелательного поведения».

Это не первый раз, когда Маск и прочие в его мире собрались вместе, чтобы привлечь интерес к угрозе, которую независимое оружие представляет для человечества..

Председатель совета директоров SpaceX и Tesla поддерживает OpenAI, некоммерческую организацию, занимающуюся продвижением этических исследований интерфейса пользователя..

Но, не обращая внимания на боязни, выраженные экспертами по ИИ, эти задержки с разработкой хорошего запрета на независимое оружие вызвали у определенных боязни, что опасности могут выйти за рамки нормативных требований, тем более с учетом скорости, с которой развиваются системы ИИ..

«У нас не хватает времени», — говорится в письме. «Как только ящик Пандоры откроется, закрыть его будет довольно не просто».

«Третья революция», к которой призывают участники кампании, делает роботов-убийц своего рода технологическим преемником историчного развития пороха и атомного оружия — новшеств, о которых не скажешь, что они улучшили мир, в котором мы живём..

Первый раз представители компаний, которые занимаются ИИ и робототехникой, из 26 стран мира, объединили собственные усилия, присоединившись к ряду предупреждений независимых ученых, например как Стивен Хокинг, Ноам Хомски и учредитель Apple Стив Возняк..

«Число популярных компаний и лиц, подписавших это письмо, увеличивает наше предупреждение про то, что это не гипотетически возможный сценарий, а очень реальная и очень животрепещущая тема, требующая срочных действий», — сказал родоначальник Clearpath Robotics Райан Гариепи..

«Мы не должны терять из виду тот момент, что, в отличии от остальных потенциальных проявлений ИИ, которые все еще находятся в области научной фантастики, независимые боевые системы в настоящий момент находятся на переднем крае разработки».

Это последнее заявление хотелось бы отметить — ситуация такая, что машины-убийцы с ИИ уже служат частью нашей реальности..

Независимые или полуавтономные возможности очень часто включаются в такое оружие, как охранный пистолет Samsung SGR-A1, дрон BAE System Taranis и подлодка Sea Hunter от DARPA..

Иначе говоря технологическое зерно для завтрашних роботов-убийц уже посеяно на земля, в воздухе и в воде, а эффектные законы, регулирующие эти смертоносные машины (и промышленность, решившую их делать), еще не написаны..

«Фактически любую технологию можно применять в хороших и скверных целях, и ИИ не отличается ничем», — сказал Тоби Уолш из Университета Нового Южного Уэльса, один из организаторов конференции IJCAI 2017..

«Это поможет решить большинство из насущных проблем, стоящих перед сегодняшним обществом … Но ту же технологию можно применять для создания независимого оружия, которое могло бы индустриализировать войну. Мы обязаны решить сегодня, чтобы подобрать будущее, которого мы хотим ».

По материалам Источник

Похожие записи