Главная / Армия / Техника и оружие / Пентагон принял этические принципы для искусственного интеллекта

Пентагон принял этические принципы для искусственного интеллекта

Кадр из сериала «Любовь, смерть и роботы» (2019)

«Предотвратить невозможно»: Пентагон всерьез взялся за ИИ

Министерство обороны Соединенных Штатов создало нормы этического использования искусственного интеллекта военными, что позволит им активнее работать на этом направлении…

close

Кадр из сериала «Любовь, смерть и роботы» (2019)

Кадр из сериала «Любовь, смерть и роботы» (2019)

«Предотвратить невозможно»: Пентагон всерьез взялся за ИИ

Пентагон принял этические принципы для искусственного интеллекта

Министерство обороны Соединенных Штатов создало нормы этического использования искусственного интеллекта военными, что позволит им активнее работать на этом направлении. Успехи России и Китая в военной сфере и в развитии оборонных технологий воспринимаются американцами как вызов их превосходству, поэтому сейчас они делают ставку на высокие технологии.

Директор по информационным технологиям министерства обороны США Дана Дизи и директор Объединенного центра искусственного интеллекта генерал-лейтенант (Joint Artificial Intelligence Center, JAIC) Джон Шанахан объявили об официальном принятии пяти принципов этического использования искусственного интеллекта (ИИ).

Это «закладывает основы этического проектирования, разработки, развертывания и использования искусственного интеллекта министерством обороны США», заявила Дизи.

Генерал Шанахан сказал, что решение о принятии этих принципов отделяет Соединенные Штаты и их союзников от противников, которые намерены использовать достижения в сфере ИИ.

«Мои беседы с нашими союзниками и партнерами в Европе показывают, что у нас много общего в отношении принципов, касающихся этического и безопасного использования возможностей ИИ в военных операциях»,

— цитирует слова Шанахана Defense News.

По его мнению,

«это резко контрастирует с Россией и Китаем, где использование технологии искусственного интеллекта в военных целях вызывает серьезную обеспокоенность по поводу прав человека, этики и международных норм».

Пять перечисленных ниже принципов применимы как к боевому, так и небоевому использованию технологий ИИ, сказала Дана Дизи.

Ответственность. Персонал министерства обороны США будет проявлять надлежащий уровень здравомыслия и безопасности, оставаясь ответственным за разработку, развертывание и использование возможностей ИИ.

Беспристрастность. Отдел предпримет преднамеренные шаги, чтобы минимизировать непреднамеренное смещение возможностей ИИ.

Доступность для анализа. Возможности военного ведомства США по ИИ будут разрабатываться и развертываться таким образом, чтобы сотрудники имели надлежащее понимание технологий, процессов разработки и методов работы, применимых к ИИ.

Управляемость. Минобороны США будет проектировать и разрабатывать возможности ИИ для выполнения их намеченных функций, обладая способностью обнаруживать и избегать непреднамеренных последствий, а также способностью отключать или деактивировать развернутые системы, которые демонстрируют непреднамеренное поведение.

Эти принципы следуют из рекомендаций, разработанных Советом по оборонным инновациям США и представленных министру обороны Марку Эсперу в октябре после 15-месячной работы, в течение которой Совет встречался с экспертами по искусственному интеллекту из промышленности, правительства и научных кругов.

Как известно, искусственный интеллект — это машинная система, способная обучаться и использовать объективные знания и опыт, решать творческие задачи наподобие человеческого мозга и изобретательские задачи без перебора вариантов, выстраивать стратегии и применять абстрактные концепции.

Такой ИИ еще только предстоит создать, но технологии в настоящее время развиваются очень быстро. Разработчиков мотивируют и крупные корпорации, для которых это способ обретения конкурентных преимуществ и новый источник прибылей, и государства, для которых развитие искусственного интеллекта является важным аспектом национальной безопасности и сохранения суверенитета.

К примеру, руководство КНР неоднократно заявляло, что Китай собирается к 2030 году стать мировым лидером в области технологий искусственного интеллекта и крупнейшим центром инноваций, поскольку Поднебесной для поддержания высоких темпов экономического роста необходимо научно-технологическое лидерство.

Успехи России и Китая в военной сфере и в развитии оборонных технологий воспринимаются Соединенными Штатами как вызов их превосходству. Именно поэтому в США принята так называемая «Третья компенсационная стратегия», задача которой внедрить самые современные инновации в военную сферу и вновь обрести подавляющее преимущество над КНР и Россией, которые в подписанной Трампом «Стратегии национальной безопасности» объявлены конкурентами и противниками США.

К таким инновациям в области обороны Пентагон относит искусственный интеллект, взаимодействие машин и военнослужащих, совершенствование беспилотных боевых машин, роботов и автономного оружия, технологии гиперзвука и направленной энергии, а также планирует расширить взаимодействие оборонной промышленности и коммерческого сектора экономики.

«Становится очевидным, что ведущие мировые державы будут стремиться активнее внедрять в оборонную сферу самые современные инновационные технологии, потому что любое техническое отставание от потенциальных противников увеличивает уязвимость, прикрыть которую обычными конвенциональными видами вооружений будет очень сложно», — пояснил «Газете.Ru» заместитель директора Центра анализа стратегий и технологий Константин Макиенко.

В ближайшие несколько лет все ведущие державы будут втянуты в гонку инновационных вооружений. Противники и конкуренты запомнили слова президента Путина, сказанные им 1 сентября 2017 года на открытом уроке в Ярославле:

«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира».

«Искусственный интеллект качественно изменит армии и виды вооружений, как когда-то это происходило с изобретением пороха, появлением самолетов и танков, с созданием ядерного оружия. Предотвратить использование искусственного интеллекта в военных целях невозможно», — считает Макиенко.

Все организационные усилия, инвестиции и человеческий капитал в сфере искусственного интеллекта в Соединенных Штатах и Китае сконцентрированы в военных ведомствах. В Вашингтоне и Пекине считают, что вооруженные силы первыми должны овладеть этими перспективные технологиями. Именно в сфере вооруженной борьбы ИИ может дать наиболее быструю и самую эффективную отдачу, считают специалисты во всем мире.

В России проблемы искусственного интеллекта решаются в гражданском поле — в рамках программы «Цифровая экономика Российской Федерации» и федерального проекта «Искусственный интеллект».

До этого были утверждены еще два программных документа по развитию искусственного интеллекта: «Национальная стратегия развития искусственного интеллекта» и «Дорожная карта развития технологий искусственного интеллекта и нейросенсорики».

Что касается разработки правовых и этических норм взаимодействия ИИ с человеком, то на данном этапе эта работа в России пока не вышла за рамки дискуссий.

Источник

Оставить комментарий

Ваш email нигде не будет показан. Обязательные для заполнения поля помечены *

*