В Кремниевой долине воцарился биполярный мир
Американские технологические компании пересматривают отношения с армией США
«Коммерсантъ» от 23.05.2021, 11:33
Отношения технологических корпораций с армией и правоохранительными органами США становятся все более полярными — одни компании отказываются от контрактов с военными и спецслужбами, другие, напротив, активизируют сотрудничество. Сложная природа взаимоотношений силовиков с сектором хайтека уже вынуждает американских военных работать над улучшением своего имиджа в Кремниевой долине.
Ни цента на войну
Многие представители американского высокотехнологичного сектора пересматривают взаимоотношения с Минобороны и правоохранительными органами США, пишет Financial Times. Причем пересмотр идет в обе стороны — некоторые компании отказываются от оборонных контрактов, другие, наоборот, начинают сотрудничать с армией. Однако если случаи отказов получают широкую огласку и становятся громкими примерами, то продолжающееся сотрудничество с армией не афишируется.
В прошлом году корпорация IBM прекратила разработку и продажу программного обеспечения для распознавания лиц. Такое решение было принято в условиях, когда в США шли массовые протесты после гибели Джорджа Флойда. Глава IBM Арвинд Кришна тогда написал в открытом письме, что вопрос о том, как следует и нужно ли вообще применять технологию распознавания лиц в местных правоохранительных органах, требует обсуждения.
Как разрабатываются автономные боевые системы и кто выступает против них
Еще в 2018 году сотрудники вынудили Google отказаться от сотрудничества с Пентагоном — они подписали открытое письмо против проекта «Специалист», предусматривавшего использование искусственного интеллекта для обработки информации, получаемой от беспилотников. Еще один случай противостояния хайтек-компаний и американских властей — отказ Apple помочь ФБР в разблокировке iPhone, принадлежащих террористам и преступникам. Apple отказалась это делать, объяснив решение тем, что иначе ей пришлось бы сообщить спецслужбе универсальный способ вскрытия смартфонов. ФБР так и не удалось добиться помощи от Apple, в итоге спецслужба обратилась к «третьей стороне», которая помогла ей разблокировать iPhone террориста.
Однако взаимоотношения компаний из Кремниевой долины с американской армией не так однозначны. С одной стороны, здесь играет роль тот факт, что корни технологической сферы уходят в сотрудничество с оборонной промышленностью — многие современные технологии, включая интернет, первые полупроводники, радары и т. д. либо финансировались военными, либо были созданы непосредственно в военных структурах. «Кремниевая долина ведет свое начало от Министерства обороны, аэрокосмической и военной промышленности»,— говорит генеральный директор независимой группы Комиссии по национальной безопасности в отношении искусственного интеллекта Юл Байрактари.
Как отмечает профессор истории Вашингтонского университета Маргарет О’Мара, «осознают их сотрудники или нет, но во всех нынешних технологических гигантах есть ДНК военной промышленности».
Кроме того, сотрудничество с Пентагоном — это и просто масштабный бизнес, приносящий корпорациям многомиллиардные контракты.
С другой стороны, сейчас технологические компании не хотят ассоциироваться с оборонным сектором и войнами. «На мой взгляд, линия фронта проходит там, где компании в заявлениях о своей миссии говорят о том, в соответствии с какой политикой они готовы работать»,— считает генеральный директор неправительственной организации EqualAI Мириам Фогель. По ее мнению, отношения технологических компаний с правительством и армией можно описать как «глубоко взаимосвязанные и все более острые».
Как Россия выступила против запрета полностью автономных боевых систем
В числе прочего давление на компании, как в случае с Google, оказывают собственные сотрудники, требующие более четких заявлений о ценностях, которых те придерживаются, или даже о неготовности сотрудничать с властями в тех или иных сферах. Как отмечают эксперты, поэтому многие корпорации не афишируют свои оборонные контракты не только для общественности, но и для собственных сотрудников. «Важно понимать, что маркетинг, который работает внутри этих компаний, уверяя сотрудников, что они делают благое дело и что, например, их программа слежки используется для помощи при стихийных бедствиях, а не для наведения беспилотников на цель, во многом схож с маркетингом, нацеленным на общество»,— считает Мередит Уиттакер, соосновательница исследовательского института AI Now Institute, работающего при Нью-Йоркском университете и изучающего социальные последствия внедрения ИИ.
Миллионные контракты
В действительности многие технологические гиганты продолжают заключать контракты с армией и правоохранительными органами. Один из последних примеров — в апреле корпорация Microsoft получила от Минобороны США контракт на поставку носимых устройств дополненной реальности для армии. Сумма контракта составляет почти $22 млрд, в ближайшие десять лет Microsoft должна будет поставить американской армии 120 тыс. устройств, созданных на базе ее очков дополненной реальности HoloLens.
В апреле корпорация Microsoft получила от Минобороны США контракт на поставку носимых устройств дополненной реальности для армии
Фото: US Army
Microsoft и Amazon боролись за другой крупный оборонный контракт — создание облачной инфраструктуры хранения данных по заказу Пентагона на $10 млрд. В итоге в 2019 году этот контракт также получила Microsoft, а Amazon даже попыталась опротестовать передачу контракта конкуренту в суде.
Еще один пример тесного технологического взаимодействия с военными и спецслужбами — работа такой компании, как Palantir — американский разработчик «шпионского» программного обеспечения, услугами которого пользуются спецслужбы США и их союзников. Первым инвестором компании стала IN-Q-Tel, связанная с разведкой и Министерством обороны США, а сейчас к услугам Palantir прибегают и ЦРУ, и ФБР, и Пентагон, и многие другие организации, чья деятельность завязана на слежке за людьми. В октябре прошлого года Palantir провела IPO, на котором ее стоимость была оценена в $21 млрд. Еще одна подобная компания — Shield AI, специализирующаяся на создании беспилотных систем, которые могли бы работать в зоне боевых действий.
«Это миф, что талантливые инженеры не хотят работать с военными. У нас около 200 сотрудников сейчас, вдвое больше, чем год назад, и очень много желающих работать.
В общем и целом, вы найдете полных энтузиазма сотрудников, заинтересованных в помощи правительству в решении этих задач»,— говорит сооснователь Shield AI Брэндон Цзэн, ранее служивший в подразделении специального назначения ВМФ США (SEALs).
Как боевое применение полноценных систем ИИ стало реальностью
Не столь известное, но весьма активное сотрудничество технологических компаний с армией отражено и в опубликованном в июле прошлого года докладе неправительственной организации Tech Inquiry. Авторы доклада изучили различные контракты Минобороны США и правоохранительных органов и выделили среди них контракты с хайтек-компаниями. Во многих случаях речь идет о субконтрактах, которые заключаются, когда основной подрядчик не может сам выполнить все работы по контракту и обращается к другим компаниям. «Часто описание контрактов высокого уровня между технологическими компаниями и армией выглядят очень обыденно и буднично. Но только когда вы посмотрите на детали контракта, которые вы можете получить только по запросу по (закону о.— “Ъ”) свободе информации, вы увидите, как технологическая компания работает по техническим требованиям заказчика»,— отмечает директор Tech Inquiry и бывший сотрудник Google Джек Полсон. По данным Tech Inquiry:
- у Microsoft более 5 тыс. таких субподрядов,
- у Amazon — более 350,
- у Google — более 250.
В свою очередь сами военные стараются улучшить свой образ в глазах хайтек-специалистов и наладить контакты с ними. В 2015 году Пентагон создал подразделение оборонных инноваций (DIU), которое должно налаживать связи с компаниями Кремниевой долине. «По правде говоря, у отдела была плохая репутация в Кремниевой долине»,— рассказывает директор по коммерческим продуктам и партнерству DIU Том Фолдеси. По его словам, основной проблемой такого сотрудничества были не этические вопросы, а чрезмерная бюрократизация. Однако, как отмечает господин Фолдеси, за последние годы DIU удалось наладить взаимодействие с технологическими стартапами: если еще три года назад на большинство его заявок приходило два-три предложения от компаний, то теперь речь нередко идет о более чем сотне предложений. Что касается этических сложностей взаимодействия стартапов с Минобороны, по мнению господина Фолдеси, такие случаи редки: «Я знаю о некоторых громких случаях обсуждения проблем в компаниях, однако я могу посчитать их на пальцах и не считаю, что они репрезентативны для этой экосистемы в целом».