2024 Статьи
«Специалист подобен флюсу, полнота его одностороння» Козьма Прутков.
Внятного представления о возможностях и границах применения ИИ, по-видимому, получить уже не выйдет без практического и глубокого погружения в тему. В среде "погруженных" произошла специализация. Общей картины не видит никто (проблема всей и давно дезинтегрированной Науки: 3850 научных статей в день. Nature). Дымовые завесы, дезинформация, продавливание лозунгов/тем под распил бюджетов, секретность, - все это пониманию и адекватной оценке не способствует. Адм.
28.12.2024 2025 год: грядёт ИИ – атомная мировая революция. Елена Ларина, Владимир Овчинский
Почему Трампа выбрали президентом Америки
26.12.2024 В 2025 году от ИИ будет зависеть решение всех мировых проблем. Елена Ларина, Владимир Овчинский
Главная мировая технология ставит «неразрешимые» вопросы, которые предстоит решать
24.12.2024 Устранение свидетелей. Илья Титов
Кому может быть выгодно давление на флагман ИИ-пузыря
11.12.2024 В чьих руках ядерная кнопка? Елена Ларина, Владимир Овчинский
Искусственный или человеческий интеллект?
28.11.2024 ИИ наступает, возможности и риски нарастают. Елена Ларина, Владимир Овчинский
О наиболее острых вопросах технологии N 1, обсуждавшихся в 2024 году
22.11.2024 Трамп, Си, ИИ. Елена Ларина, Владимир Овчинский
Технологическая война между США и Китаем усиливается
07.11.2024 Трамп и ИИ. Елена Ларина, Владимир Овчинский
Кто и зачем снёс команду Байдена – Харрис
27.10.2024 ИИ для войны с Китаем и Россией. Елена Ларина, Владимир Овчинский
Новый меморандум Байдена
17.10.2024 "Осталось несколько лет". Судьба человечества решится не там, где все ждут. Захар Андреев
Автопилоту Tesla пришлось выбирать между жизнью пешехода и пассажиров
Технологические гиганты вступили в настоящую "гонку вооружений" в сфере искусственного интеллекта. В разработку вкладывают огромные ресурсы. При этом крупнейшие игроки делятся на два условных лагеря с принципиально разной идеологией. От того, кто победит, возможно, зависит будущее всей цивилизации.
27.09.2024 ИИ может стать основанием для отмены результатов президентских выборов в США. Елена Ларина, Владимир Овчинский
Алгоритмы и нейросети как орудия политической борьбы
29.08.2024 Си и ИИ. Елена Ларина, Владимир Овчинский
Китай делает стратегическую ставку на развитие всех форм искусственного интеллекта
26.08.2024 Президента США выбирает ИИ? Елена Ларина, Владимир Овчинский
Технократия подавляет демократию?
10.08.2024 ИИ в Америке поглощает сферу национальной безопасности. Елена Ларина, Владимир Овчинский
Правовые и политические проблемы регулирования
10.07.2024 ИИ в ЦРУ. Елена Ларина, Владимир Овчинский
Общедоступные и совершенно секретные инструменты
05.07.2024 ИИ во главе армии Китая. Елена Ларина, Владимир Овчинский
Интеграция интеллектуальных технологий в НОАК
27.06.2024 ИИ и квантовые технологии для войны. Елена Ларина, Владимир Овчинский
Удвоенная разрушительная сила
26.06.2024 ИИ на войне. Часть II. Елена Ларина, Владимир Овчинский
Ближний Восток стал ключевым рубежом в борьбе сверхдержав за технологическое превосходство
24.06.2024 ИИ на войне. Часть I. Елена Ларина, Владимир Овчинский
The Economist в номере за 22 июня 2024 года вынес на обложку рисунок «Война и ИИ». Статья «Искусственный интеллект изменит характер войны»
17.03.2024 Искусственный Интеллект может скоро стать в миллион раз сильнее. Елена Ларина, Владимир Овчинский
Время не ждёт
Из статьи 11.12.2024 В чьих руках ядерная кнопка?:
Во-первых, ИИ ненадежен. Современный искусственный интеллект может уверенно генерировать ложную информацию, которая может привести к ошибочным прогнозам и рекомендациям, что в конечном итоге исказит процесс принятия решений. Это явление называется «галлюцинациями». Примерами могут служить большая языковая модель, генерирующая неверные факты об исторических событиях, или модель зрения, «видящая» объекты, которых нет.
Во-вторых, непрозрачность систем ИИ, известная как проблема «черного ящика», затрудняет полное понимание того, как система ИИ приходит к своим выводам. Такое отсутствие прозрачности подрывает доверие и снижает полезность ИИ в условиях с высокими ставками, таких как принятие решений в ядерной энергетике, где прозрачность имеет решающее значение.
В-третьих, системы ИИ подвержены кибератакам, что создает возможности для противников скомпрометировать целостность систем ядерного командования и управления.
В - четвертых, Современные модели искусственного интеллекта стараются сопоставить свои результаты с человеческими ценностями и целями, но иногда могут отклоняться от них. Напряженная обстановка при принятии решений в ядерной энергетике в сочетании с ограниченным временем реагирования усугубляет эти опасности, поскольку решения могут основываться на неточной, непрозрачной, скомпрометированной или несогласованной информации.
28.12.2024 2025 год: грядёт ИИ – атомная мировая революция
Почему Трампа выбрали президентом Америки
Редактор Бюллетеня учёных – атомщиков (США) Доун Стовер в своем издании опубликовала статью «ИИ становится ядерным» (19.12.2024). Она пишет:
«Когда Microsoft купила тыквенную ферму площадью 407 акров в Маунт-Плезант, штат Висконсин, она не собиралась выращивать тыквенные фонарики на Хэллоуин. Microsoft наращивает центры обработки данных — сетевые компьютерные серверы, которые хранят, извлекают и обрабатывают информацию. И эти центры обработки данных имеют растущий аппетит к электричеству.
Microsoft заплатила колоссальные $76 млн за тыквенную ферму, которая была оценена примерно в $600 000. Компания, которая с тех пор купила другие близлежащие объекты, чтобы расширить свою территорию до 5 км², заявляет, что потратит $3,3 млрд на строительство своего центра обработки данных в Висконсине площадью 2 км² и оснащение его специализированными компьютерными процессорами, используемыми для ИИ.
Microsoft и OpenAI, создатель бота ChatGPT, говорили о создании связанной сети из пяти центров обработки данных — объекта в Висконсине и четырех других в Калифорнии, Техасе, Вирджинии и Бразилии.
Вместе они составят огромный суперкомпьютер, получивший название Stargate, который в конечном счете может стоить более 100 миллиардов долларов и потребовать пять гигаватт электроэнергии, что эквивалентно выходу пяти атомных электростанций среднего размера.
Microsoft, Amazon, Apple, Google, Meta* и другие крупные технологические компании вкладывают значительные средства в центры обработки данных, особенно в «гипермасштабные» центры обработки данных, которые не только огромны по размеру, но и по своим вычислительным возможностям для задач с интенсивным использованием данных, таких как генерация ответов ИИ.
Один гипермасштабный центр обработки данных может потреблять столько же электроэнергии, сколько десятки или сотни тысяч домов, и в Соединенных Штатах уже есть сотни таких центров, плюс тысячи более мелких центров обработки данных».
Только в 2024 году американские электроэнергетические компании почти удвоили свои оценки того, сколько электроэнергии им понадобится в течение следующих пяти лет.
Электромобили, криптовалюта и возрождение американского производства поглощают много электроэнергии, но ИИ растёт быстрее и является движущей силой быстрого расширения центров обработки данных.
Недавний отчёт глобального инвестиционного банка Goldman Sachs прогнозирует, что центры обработки данных будут потреблять около 8% всей электроэнергии США в 2030 году, по сравнению с примерно 3 % сегодня.
Билл Гейтс, Джефф Безос, Илон Маск, Марк Цукерберг, Ларри Эллисон и другие так называемые «технические братья», которые также входят в число самых богатых людей мира, думали о том, как энергетическая отрасль может — или должна, по их мнению, — идти в ногу с быстрым ростом ИИ, одновременно позволяя Big Tech выполнять свои климатические обязательства.
Все они пришли к одному и тому же выводу: ядерная энергия, сколько бы она ни стоила, является единственным жизнеспособным решением.
В серии недавних обращений крупные технологические компании заявили, что они либо возродят существующие атомные электростанции, либо разработают ядерные реакторы следующего поколения, либо сделают и то, и другое.
Доллары также текут в проекты ядерного синтеза, хотя многие физики считают, что коммерческие термоядерные электростанции, которые вырабатывают электроэнергию, появятся, по крайней мере, через десятилетия, если их вообще удастся построить.
Федеральное правительство не только поддерживает эту ядерную концепцию, но и субсидирует ее во имя «чистой энергии». Однако и правительство, и технологическая отрасль в значительной степени игнорируют известные и существенные недостатки ядерной энергетики, включая высокие затраты, длительное время строительства, аварии, риски распространения ядерного оружия и загрязнение окружающей среды в результате добычи урана и утилизации радиоактивных отходов.
Ставка на ядерную энергетику
В Пенсильвании Microsoft планирует возродить Три-Майл-Айленд. Для людей, достаточно старых, чтобы помнить это название, оно ассоциируется с упадком ядерной энергетики в Соединенных Штатах. Сорок пять лет назад частичное расплавление реактора на атомной электростанции Три-Майл-Айленд в 10 милях к югу от Харрисберга, штат Пенсильвания, охватило страну и подвергло воздействию радиации почти два миллиона человек. Это была самая страшная авария в истории коммерческой ядерной энергетики США.
Вышедший из строя реактор больше не работал, но аналогичный реактор, построенный на том же острове в реке Саскуэханна, был перезапущен через шесть лет после аварии и позже получил продление лицензии до 2034 года. Этот реактор был закрыт в 2019 году после того, как его владелец, Constellation Energy, не смог получить субсидии от штата Пенсильвания и посчитал реактор финансовым альбатросом. Однако теперь Constellation планирует снова открыть реактор и продать 100% электроэнергии, которая будет им вырабатываться — достаточной для питания 800 000 домов — компании Microsoft.
Примерно в 130 км вверх по течению от острова Три-Майл компания Amazon недавно приобрела новый центр обработки данных рядом с двухреакторной атомной электростанцией Саскуэханна. Amazon хотела увеличить объем электроэнергии, поступающей напрямую с атомной станции в центр обработки данных, но Федеральная комиссия по регулированию энергетики выступила против этого изменения , а один из комиссаров предупредил, что это «может иметь огромные последствия как для надежности сети, так и для потребительских расходов».
Meta*, компания, которой принадлежат Facebook* и Instagram*, намеревалась построить новый центр обработки данных, посвященный ИИ, рядом с другой существующей атомной электростанцией, согласно последним сообщениям. Но обнаружение редкого вида пчел на этом месте поставило палки в колеса этим планам. Если бы Meta преуспела, она стала бы первой крупной технологической компанией, которая внедрила ядерный ИИ, как сообщается, генеральный директор Марк Цукерберг сказал сотрудникам на недавнем общем собрании.
Цукерберг не сказал, где Meta хочет построить свой центр обработки данных. По крайней мере один энтомолог предположил, что ржавые шмели — первый вид шмелей, занесенный в список находящихся под угрозой исчезновения на федеральном уровне — были замечены около электростанции Diablo Canyon в Калифорнии, которую планировалось вывести из эксплуатации в 2024 году, но срок ее эксплуатации был продлен как минимум до 2030 года.
В Мичигане уже закрытая АЭС Палисейдс может быть снова запущена уже в 2025 году. Реакторы в Палисейдс и Три-Майл-Айленде станут первыми, которые будут перезапущены после вывода из эксплуатации.
Внезапный интерес к ядерной энергетике во многом обусловлен ИИ, который стремительно трансформирует технологическую отрасль. Электроэнергетические компании прогнозируют, что в течение следующих пяти лет Америке понадобится эквивалент 34 новых полноразмерных атомных электростанций, чтобы удовлетворить потребности в электроэнергии, которые резко растут после нескольких десятилетий падения или отсутствия спроса.
Microsoft, Amazon и другие технологические гиганты заинтересованы не только в возрождении существующих атомных электростанций. Они также финансируют разработку ядерных реакторов следующего поколения.
14 октября 2024 года Google объявила о сделке по покупке ядерной энергии из малых модульных реакторов (ММР), которые будут разработаны Kairos Power.
Через два дня после объявления Google Amazon заявила, что подписала соглашения об инвестировании в четыре ММР, которые будут построены, будут принадлежать и эксплуатироваться Energy Northwest, консорциумом коммунальных предприятий в штате Вашингтон. Amazon надеется, что новые реакторы смогут обеспечить энергией кластер энергоемких центров обработки данных в восточном Орегоне.
Oracle проектирует центр обработки данных ИИ, который будет работать на трёх ММР, — заявление, которое председатель Oracle Ларри Эллисон охарактеризовал как, казалось бы, «странное», но необходимое для удовлетворения «сумасшедших» энергетических потребностей ИИ.
Ожидается, что первый из этих реакторов следующего поколения будет введен в эксплуатацию в начале 2030-х годов, но на сегодняшний день построено только три ММР, и ни один из них не находится в Соединенных Штатах.
Разработчики ИИ жаждут вычислений, а вычисления жаждут электричества
В глобальном масштабе спрос на электроэнергию также стремительно растет и, как ожидается, в 2035 году он будет на 6% выше, чем прогнозировало Международное энергетическое агентство всего год назад.
Потребление электроэнергии центрами обработки данных, которых по всему миру уже насчитывается 11 000, может достичь более 1 миллиона гигаватт-часов в 2027 году — примерно столько же электроэнергии, сколько Япония сейчас потребляет ежегодно, согласно недавнему анализу агентства.
Алекс де Врис, работающий в центральном банке Нидерландов и в свободное время пишущий блог о непреднамеренных экологических последствиях цифровых технологий, в 2023 году опубликовал рецензируемый анализ, в котором рассматривалось растущее потребление энергии ИИ. Де Врис подсчитал, что если каждый поиск Google станет поиском Google на базе ИИ, то один только ИИ Google потенциально может потребовать столько же электроэнергии, сколько вся Ирландия. Однако в реальности потребление энергии Google, скорее всего, будет ограничено тем, сколько «вычислительной мощности» компания может купить.
В сообществе ИИ «вычислитель» — это все, даже существительное и прилагательное. «Вычислитель» — это технический жаргон для вычислительной мощности или вычислительных ресурсов: высокопроизводительных процессоров, которые делают ИИ возможным.
«Я думаю, что вычисления станут валютой будущего», — сказал в подкасте в начале 2024 года генеральный директор OpenAI Сэм Альтман.
Технологические компании говорят о продуктах «на базе ИИ», как будто сам ИИ не работает на чем-то другом, но ИИ потребляет электроэнергию несколькими способами.
Во-первых, для создания моделей ИИ, таких как ChatGPT, требуется обучение. Обучение начинается с «соскребания» огромных объемов текста, изображений, видео и других данных из интернета — по сути, с создания гигантского снимка онлайн-книг, новостных статей, энциклопедий, патентов, фотографий и другой информации, найденной на миллионах веб-сайтов. И поскольку соскребание захватывает данные только на один момент времени, его нужно делать неоднократно.
Разработчики скармливают эту гору сырого материала моделям ИИ, и те переваривают его, анализируя закономерности в данных — например, какое слово имеет тенденцию следовать за серией других слов — и используя этот анализ для формирования «интеллектуальных» ответов на подсказки. Модели оцениваются по тому, насколько хорошо они имитируют созданный человеком контент (независимо от его точности), а затем многократно тестируются для точной настройки ответов.
Обучение — энергоёмкий процесс. Наборы данных, используемые для обучения, значительно выросли за последние несколько лет, и самые большие модели ИИ теперь обучаются с использованием сотен миллиардов слов, на обработку которых могут уйти месяцы десятками тысяч специализированных компьютерных чипов, работающих день и ночь.
Анализ, проведенный OpenAI в 2018 году, показал, что объём «вычислений», необходимых для обучения крупнейших моделей ИИ, удваивается каждые три-четыре месяца. Анализ более поздних моделей сообщает, что требования к обучению умножались в четыре-пять раз в год в течение последних четырёх лет.
Электричество также требуется для обработки запросов ИИ. Например, запрос Google с использованием ChatGPT потребляет почти в 10 раз больше энергии, чем традиционный поиск Google, согласно данным Института исследований электроэнергетики. Только ChatGPT отвечает примерно на 200 миллионов запросов в день.
В недавней статье Саши Луччони, исследователя из компании Hugging Face, занимающейся исследованиями в области искусственного интеллекта, и двух её соавторов подсчитано, что создание одного изображения с помощью искусственного интеллекта может потреблять почти столько же энергии, сколько полная зарядка смартфона.
Количественная оценка «вычислений», используемых конкретной моделью ИИ, проще, чем оценка энергии, используемой для создания оборудования, программного обеспечения и инфраструктуры для центров обработки данных, а также для их охлаждения.
Ещё сложнее оценить более широкое энергетическое воздействие технологии, которая уже меняет рабочую силу и потребительское поведение современных обществ, например, использование цифровых устройств для выполнения задач, которые ранее выполнялись вручную.
Если основываться исключительно на текущих тенденциях, то прогнозируется, что потребление электроэнергии в центрах обработки данных США будет расти примерно на 10% в год в период до 2030 года.
По одной из оценок, экспоненциальный рост ИИ может поглотить почти всю производимую в мире энергию к 2050 году.
Существуют способы повышения эффективности вычислений, и инициатива, в которой участвуют несколько национальных лабораторий, направлена на то, чтобы вернуть полупроводниковую промышленность «на путь удвоения энергоэффективности каждые два года». Однако в настоящее время сфера ИИ больше сосредоточена на производительности, которая требует все более крупных моделей, обучающих наборов данных и возможностей обработки, чем на эффективности.
В то же время центры обработки данных строятся быстрее, чем расширяются энергетические мощности.
Быстрый рост этого сектора не был адекватно учтен в климатических моделях и редко упоминается как проблема безопасности ИИ.
В письме о «паузе» от марта 2023 года, призывающем лаборатории ИИ прекратить обучение самых мощных систем ИИ как минимум на шесть месяцев, технические эксперты выразили обеспокоенность потерей рабочих мест — или даже контролем над цивилизацией — но не о последствиях изменения климата.
Бум ИИ в значительной степени зависит от энергоёмких графических процессоров, или GPU — специализированных компьютерных чипов, которые могут обрабатывать огромные объемы данных. Эти чипы в дефиците, и многонациональная корпорация под названием Nvidia контролирует почти 90% рынка. Nvidia, которая базируется в Делавэре, но продает чипы, произведенные на Тайване и в Мексике, недавно обогнала Apple и Microsoft, став самой дорогой корпорацией в мире. Она оценивается в 3,43 триллиона долларов, по сравнению с 1 триллионом долларов всего год назад.
Самая передовая платформа Nvidia, которая называется Blackwell и используется для обучения моделей ИИ, представляет собой кластер из восьми графических процессоров, которые вместе потребляют 15 киловатт электроэнергии — примерно половину того, что потребляет типичное домохозяйство в США. Весь запас на следующие 12 месяцев уже распродан. Спрос на него «безумный», сказал генеральный директор компании Дженсен Хуанг в интервью CNBC в октябре 2024 года.
Финансовая компания Morgan Stanley оценивает, что Nvidia произведет 450 000 Blackwells только в четвертом квартале 2024 года и будет продавать их примерно по 22 000 долларов за штуку. Это составит почти 10 миллиардов долларов дохода, и Blackwell — это всего лишь одна из моделей GPU, продаваемых Nvidia. Технический писатель Джон Леффлер называет Blackwell «ничем иным, как устройством судного дня», потому что он опасается, что не будет достаточно безуглеродной энергии для питания миллионов этих устройств, которые производятся.
И у Nvidia скоро появится конкурент. Гиганты технологических компаний работают над созданием собственных чипов ИИ. Генеральный директор OpenAI Сэм Альтман год назад отправился на Ближний Восток, чтобы получить от 5 до 7 триллионов долларов от инвесторов, включая Объединенные Арабские Эмираты, для предприятия по производству чипов, известного как Tigris, сообщает «Уолл-стрит джорнал», хотя в настоящее время этот проект, похоже, заморожен. Саудовская Аравия недавно запустила фонд в размере 100 миллиардов долларов для инвестиций в ИИ, а Китай бросает вызов доминированию США со своей системой ИИ Qwen.
«В 2025 году вы увидите, что они просто не смогут найти достаточно электроэнергии для работы всех чипов», — сказал Илон Маск, выступая на конференции Bosch Connected World 2024 в феврале.
Маск, который совмещает много дел в бизнесе и вскоре возьмет на себя управление так называемым Департаментом эффективности правительства администрации Трампа, стал соучредителем OpenAI и недавно выпустил «антипробужденного» чат-бота на основе ИИ, чтобы составить конкуренцию ChatGPT от OpenAI.
Грязный секрет
Будь то производство чипов или обучение ботов и чаты, откуда будет поступать энергия для деятельности ИИ? Крупные технологические компании играют видную роль в усилиях по переходу к экономике без выбросов углерода. Но с развитием ИИ выбросы, связанные с технологиями, растут.
Apple пообещала стать углеродно-нейтральной к 2030 году. Google поставила перед собой «мгновенную цель» — полностью перевести свои центры обработки данных на безуглеродную энергию к 2030 году. Microsoft пообещала стать углеродно-отрицательной к 2030 году. Amazon, Google, Microsoft, Meta и Amazon в совокупности приобрели половину мирового корпоративного рынка возобновляемых источников энергии.
Но бум ИИ отодвинул климатические цели в сторону. Например, выбросы Microsoft выросли на 30% с 2020 года. Выбросы Google выросли почти на 50% за последние пять лет. «По мере дальнейшей интеграции ИИ в наши продукты сокращение выбросов может оказаться сложной задачей из-за растущих потребностей в энергии из-за большей интенсивности вычислений ИИ и выбросов, связанных с ожидаемым увеличением инвестиций в нашу техническую инфраструктуру», — признала Google в своем экологическом отчёте за 2024 год.
На первом саммите AI + Energy, состоявшемся 26 сентября 2024 года, бывший генеральный директор Google Эрик Шмидт высказал мнение , что технологическая индустрия «в любом случае не достигнет климатических целей». Шмидт предположил, что лучше «сделать ставку на ИИ» в решении климатической проблемы, чем ограничивать ИИ.
«У ИИ есть грязный секрет. Он грязный», — заявила Лесли Майли, технический советник главного технологического директора Microsoft, в своей программной речи на конференции QCon в конце марта 2024 года. «Генеративный ИИ невероятно энергоемкий, даже больше, чем обычные облачные сервисы. ... Google, Meta и Microsoft делают все возможное, чтобы покупать зелёную энергию, покупать углеродные кредиты. Дело в том, что этого будет недостаточно».
Например, в Висконсине Microsoft объявила о проекте солнечной электростанции мощностью 250 мегаватт, которая поможет обеспечить электроэнергией новый центр обработки данных ИИ на бывшем тыквенном поле. Не упоминается в объявлении: чтобы удовлетворить огромные круглосуточные потребности центра обработки данных в электроэнергии, региональная коммунальная служба подала заявку на строительство двух новых электростанций, работающих на природном газе, общей мощностью 1,3 гигаватта.
«Это масштабное строительство, которое отодвинет климатические цели нашего штата от достижимых, заперев нас еще на 30 лет ископаемого топлива в то время, когда мы все знаем, что должны быстро перейти на чистую энергию», — написали в письме Microsoft 14 групп по защите окружающей среды и здоровья.
В своем анализе за апрель 2024 года Goldman Sachs предсказал, что глобальный спрос на электроэнергию со стороны центров обработки данных к 2030 году более чем удвоится, оценив этот уровень роста в 50 млрд долларов, которые потребуются коммунальным предприятиям для инвестирования в новые мощности по производству электроэнергии. «Мы предполагаем, что газ и возобновляемые источники энергии будут распределены в соотношении 60/40», — сообщила фирма.
«Не могу вспомнить, когда в последний раз я был так обеспокоен энергетической траекторией США, поскольку основные коммунальные предприятия маневрируют для массового расширения газовых мощностей в условиях роста нагрузки», — написал в марте 2024 года в Twitter докторант Университета Дьюка Тайлер Норрис. Без корректировки курса цели США по выбросам «фактически мертвы», — написал он.
ИИ даже вдыхает новую жизнь в старые угольные электростанции
ИИ уже имеет некоторые полезные климатические приложения и может помочь сделать возобновляемую энергию и энергосистему (и сами центры обработки данных) более эффективными в будущем. С повышением эффективности, возможно, что потребности ИИ в энергии могут оказаться ниже, чем прогнозируется в настоящее время. В отчёте Boston Consulting Group за ноябрь 2023 года, подготовленном по заказу Google, утверждается, что ИИ «имеет потенциал для раскрытия информации, которая может помочь сократить от 5% до 10% мировых выбросов парниковых газов к 2030 году».
Но нет никаких убедительных доказательств того, что ИИ может быстро решить проблему климатического кризиса. Фактически, ИИ также помогает нефтегазовой промышленности увеличить добычу ископаемого топлива.
Например, в Гайане ExxonMobil использует ИИ «для определения идеальных параметров бурения» на большой глубине. По крайней мере, на данный момент, огромное воздействие ИИ на окружающую среду — это скорее проблема климата, чем решение.
Это «ядерный ренессанс»?
Поскольку потребности ИИ в энергии растут, то становится все более очевидным, что развитие ветровой и солнечной энергетики не поспевает за ними, лидеры технологических компаний обратили свой взор на ядерную энергетику.
Поэтому шумиха вокруг ядерной тематики льется рекой, как шампанское на свадьбе.
Сторонники ядерной энергетики предсказывают «ядерный ренессанс» уже почти четверть века. Но ядерная энергетика никогда не была конкурентоспособной по стоимости с другими источниками энергии, и вряд ли это изменится в ближайшее время. Ежегодный энергетический прогноз Управления энергетической информации США 2023 заключает, что возобновляемая энергетика продолжит вытеснять ядерную, даже в сценариях, которые предсказывают агрессивное снижение стоимости ядерной энергетики.
Администрация Байдена приняла субсидии для поддержания работы существующих атомных электростанций и повторного открытия закрытых. Например, гарантия по кредиту в размере 1,52 млрд долларов от Министерства энергетики позволила владельцу закрытой атомной станции Palisades объявить о планах повторного открытия. «В 2022 году коммунальные службы закрывали ядерные реакторы. В 2024 году они продлят эксплуатацию реакторов до 80 лет, планируя повысить мощность и перезапустить ранее закрытые реакторы», — с одобрением отметило Министерство энергетики в отчете, опубликованном в конце сентября 2024 года.
Белый дом также недавно предложил 900 млн долларов нового финансирования для малых реакторов. В своей инициативе по ИИ Министерство энергетики неопределенно машет руками в отношении планов «открыть новые чистые источники энергии, оптимизировать производство энергии и повысить устойчивость сети».
«Мы рассматриваем возможность построить новую ядерную энергетику в масштабах, невиданных с 70-х и 80-х годов», — заявила министр энергетики Дженнифер Грэнхолм на открытии ежегодной конференции Американского ядерного общества в июне 2024 года.
Министерство энергетики видит потенциал для «коммерческого старта», который может утроить ядерные мощности США к 2050 году, и позитивно оценивает роль ИИ в стимулировании ядерной энергетики: «Рост нагрузки на ИИ и центры обработки данных приводит в соответствие основы для новой ядерной энергетики с требованиями к круглосуточной подаче электроэнергии, оценивает декарбонизацию и инвестиции в новые генерирующие активы».
Несмотря на эту федеральную поддержку, ядерный ренессанс пока не имеет портфеля заказов на новые атомные электростанции, которые фактически строятся. Что у него есть, как отмечено в отчете Белого дома о «старте», так это «группа клиентов, которые готовы и способны поддержать инвестиции в новые активы ядерной генерации». А именно, крупные технологические компании, которые могут позволить себе платить большие счета за электроэнергию.
Команда BestBrokers, которая оценивает финансовых брокеров, изучила, сколько электроэнергии 10 крупнейших технологических компаний, раскрывающих финансовые данные, использовали в своем последнем финансовом году, и оценила, сколько времени потребуется каждой из этих компаний, чтобы покрыть эти расходы на основе их среднего дневного дохода. Согласно этой оценке, Apple, которая потребила примерно 3487 гигаватт-часов электроэнергии в течение своего финансового года 2023 года — больше, чем некоторые целые страны, — могла бы погасить весь свой счет за электроэнергию примерно за 10 с половиной часов своего дохода за 2023 год. Nvidia потребуется около 11 часов.
Хотя у технологических титанов в настоящее время достаточно средств для инвестиций в энергию, кривая затрат на ИИ растёт. Расходы на питание чат-ботов уже растут так быстро, что компании сдерживают распространение своих новейших версий от общественности.
Существующая ядерная энергетика не может удовлетворить спрос на энергию, которая не только более обильна, но и более дешева. «Мы все еще не осознаем энергетических потребностей этой технологии ИИ», — посетовал генеральный директор OpenAI Сэм Альтман на Всемирном экономическом форуме в Давосе в январе 2024 года. «Без прорыва этого не достичь». Альтман, который предупредил , что «расходы на вычисления ИИ просто ошеломляют», призвал увеличить инвестиции в ядерный синтез, а также в деление.
Безумие деления (и синтеза)
Помимо OpenAI, Альтман также возглавляет Oklo, стартап в области ядерной энергетики, который стал публичным в 2023 году, когда он объединился с компанией по специальным приобретениям, также возглавляемую Альтманом.
Oklo планирует построить свой первый быстрый реактор на жидком металле с натриевым теплоносителем в Национальной лаборатории Айдахо в 2027 году. Однако первоначальная заявка компании на получение лицензии была отклонена — из-за отсутствия информации — Комиссией по ядерному регулированию в январе 2022 года и до сих пор не была подана повторно.
В августе 2023 года Пентагон объявил о «намерении предоставить» контракт компании Oklo на небольшой модульный реактор на базе ВВС на Аляске. Однако сделка была тихо отозвана месяц спустя.
Несмотря на подобные неудачи, Альтман считает, что будущее ядерной энергетики и ИИ неразрывно связано. «Я не вижу способа, которым мы сможем достичь этого без ядерной энергетики», — сказал он CNBC в 2023 году.
Вышедший на пенсию соучредитель Microsoft Билл Гейтс не так обеспокоен энергетическими потребностями ИИ, как Альтман, но он тоже настроен оптимистично в отношении ядерной энергетики. Среди его многочисленных инвестиций в ядерные стартапы есть компания TerraPower, которая получила финансирование от Департамента энергетики и Лос-Аламосской национальной лаборатории на разработку быстрого реактора с натриевым охлаждением, похожего на реактор Oklo.
Гейтс инвестировал более 1 млрд долларов в завод TerraPower, строительство которого началось в Кеммерере, штат Вайоминг, в июне 2024 года. TerraPower заявляет, что реактор будет введен в эксплуатацию к 2030 году. Однако строительство реактора Natrium на заводе еще не началось и не было одобрено Комиссией по ядерному регулированию (NRC), которая все еще проводит проверки безопасности и экологии.
Гейтс выпустил праздничное заявление, назвав науку, лежащую в основе реактора, «суперкрутой». В заявлении не упоминается предполагаемая цена реактора мощностью 345 мегаватт: 4 миллиарда долларов, из которых федеральное правительство вносит половину. Даже если проект уложится в бюджет (что сделало бы его исключительным среди американских ядерных реакторов последних нескольких десятилетий), он будет дороже сопоставимых газовых или возобновляемых проектов.
Microsoft и Google также делают ставки на ядерную энергетику. Ранее в этом году Microsoft наняла директора по ядерным технологиям и директора по ускорению ядерных разработок, чтобы возглавить стратегию компании по поддержке достижений ИИ с помощью небольших локальных ядерных реакторов, а также закупке энергии у более крупных обычных реакторов, таких как Three Mile Island.
Microsoft, которая инвестировала 13 миллиардов долларов в OpenAI и владеет почти половиной ее акций, планирует использовать ИИ для ускорения процесса одобрения атомных электростанций и обучает модель ИИ на нормативных и лицензионных документах.
В ноябре 2024 года Google подписала соглашение о покупке в общей сложности 500 мегаватт генерирующей мощности — около половины мощности обычного ядерного реактора — из шести-семи малых модульных реакторов Hermes, разработанных Kairos Power. Google планирует разместить реакторы рядом с центрами обработки данных Google к 2030 году. Этим летом Kairos заложил фундамент демонстрационного реактора, одобренного NRC, в Оук-Ридже, штат Теннесси. Это был первый неводоохлаждаемый реактор в США, строительство которого было одобрено за более чем 50 лет.
Майкл Террелл, старший директор по энергетике и климату в Google, заявил, что соглашение с Kairos может помочь компании поддерживать технологии искусственного интеллекта и «надежно удовлетворять потребности в электроэнергии за счет безуглеродной энергии каждый час и каждый день».
Богатые технологические компании и частные лица инвестируют в ядерный синтез, а также в деление. Питер Тиль, который был соучредителем PayPal и первым внешним инвестором Facebook, присоединился к Альтману в поддержке стартапа по термоядерному синтезу под названием Helion, который утверждает, что начнет производить электроэнергию на своем первом коммерческом реакторе к 2028 году и продаст ее Microsoft.
Breakthrough Energy Ventures, венчурная компания, основанная Биллом Гейтсом, инвестировала в Helion и три других стартапа в области термоядерного синтеза. Одно из этих предприятий, спин-офф MIT под названием Commonwealth Fusion Systems, также поддерживается генеральным директором Amazon Джеффом Безосом и получила 1,8 млрд долларов во втором раунде венчурного капитала. Ранее Commonwealth объявила, что арендовала землю для строительства промышленной термоядерной электростанции в Вирджинии, но компания пока не получила никаких разрешений или клиентов.
Критики, такие как Дэниел Джессби, бывший главный научный сотрудник Лаборатории физики плазмы Принстона, назвали ажиотаж вокруг этих проектов термоядерного синтеза «чрезмерным и неоправданным».
В интервью Бюллетеню ученых - ядерщиков, опубликованном в декабре 2024 года, физик Боб Роснер, бывший президент Американского физического общества и бывший директор национальной лаборатории, подчеркнул самую большую проблему, связанную с расчетом на термоядерный синтез для обеспечения революции искусственного интеллекта: «Изменение климата — это серьезная проблема, которую необходимо решать путем «декарбонизации» наших систем генерации энергии как можно скорее — не позднее 2050 года. И у нас не будет практической термоядерной энергии в такие сроки. Это невозможно».
Недостатки ядерной энергетики
Несмотря на огромные вливания денег от корпораций, миллиардеров и правительств, ядерная энергетика не является беспроигрышным вариантом. Во всем мире крупные реакторы неоднократно выходили за рамки бюджета и отставали от графика, и хотя они требуют меньших первоначальных капиталовложений, реакторы меньшего размера, вероятно, будут еще менее экономичными, чем более крупные, которые существуют сейчас, с точки зрения стоимости производимой ими электроэнергии.
«Очень немногие из предлагаемых ММР были продемонстрированы, и ни один из них не доступен для коммерческого использования, не говоря уже о лицензировании ядерным регулятором», — написала Эллисон Макфарлейн, которая десять лет назад возглавляла NRC, а сейчас руководит Школой государственной политики и глобальных отношений в Университете Британской Колумбии, в эссе, опубликованном в 2023 году в IAI News.
Единственным проектом реактора SMR, сертифицированным NRC, является реактор NuScale Power, который получил более 200 миллионов долларов федеральной поддержки и должен был быть построен в Национальной лаборатории Айдахо. Но предполагаемая стоимость строительства реактора резко возросла между 2020 и 2023 годами. Его единственный потребитель отказался от участия, и проект был отменен год назад.
Единственные новые ядерные реакторы, построенные в Соединенных Штатах за последние 30 лет, — это блоки Vogtle 3 и 4 в Джорджии. Эти реакторы с водой под давлением Westinghouse AP1000 были первыми «продвинутыми» реакторами в стране, но в итоге они обошлись в 35 миллиардов долларов (в два раза больше первоначально запланированной суммы) и были завершены на семь лет позже запланированного срока.
Существует более 50 проектов новых реакторов, и технологические гиганты, инвестирующие в ядерную энергетику, похоже, не работают над созданием стандартизированного проекта, который многие эксперты в ядерной области рекомендуют как лучший способ быстро и недорого получить одобрение и построить станции.
Стоимость и время — не единственные препятствия, которые необходимо преодолеть, если ядерная энергетика должна решить проблему ИИ-энергии. Рабочая сила, необходимая для строительства множества ядерных проектов, сократилась, поскольку заводы закрылись и не были заменены. Кроме того, ни один из предложенных новых проектов не включал никаких новых идей о том, что делать с радиоактивными отходами, образующимися не только в реакторах, но и в процессе добычи урана. В Соединенных Штатах до сих пор нет постоянного хранилища для долгоживущих радиоактивных отходов.
Радиоактивные отходы — это не просто проблема утилизации. «Билл Гейтс должен беспокоиться о переработке и распространении», — сказал Алекс Глейзер, эксперт по ядерной безопасности в Принстонском университете и член Совета по науке и безопасности Бюллетеня ученых - ядерщиков.
Такие концепции, как быстрый реактор в Оklо, будут производить расщепляющийся материал, который злоумышленники могли бы использовать для создания ядерного оружия. Оklо и другие ядерные стартапы предлагают перерабатывать свои отходы, чтобы снизить затраты. Но эта переработка производит плутоний, который можно было бы перенаправить для использования в ядерном оружии. Соединённые Штаты отказались от переработки в 1970-х годах, определив, что потенциал распространения делает ее слишком рискованной для коммерческого использования.
Во всей этой шумихе вокруг ИИ и ядерной энергетики, мало упоминаний о распространении ядерного оружия в большем количестве стран или о риске того, что расщепляющийся материал может быть приобретен (или предоставлен) террористами.
Также не уделяется много внимания огромному количеству сырья и воды, необходимому для развития как ИИ, так и ядерной энергетики, или электронным отходам, генерируемым производством чипов и центрами обработки данных.
Разговор из нескольких десятков вопросов с чат-ботом на основе искусственного интеллекта может потребовать пол-литра воды.
Крупный центр обработки данных потребляет более миллиона галлонов воды ежедневно, а некоторые центры обработки данных строятся в местах, где воды уже не хватает.
Разработчики не любят раскрывать, сколько воды они используют, но после судебного разбирательства с газетой из Орегона Google наконец согласилась раскрыть, что ее центры обработки данных в Далласе потребляют 29% городских запасов воды. Google планирует построить там еще два центра обработки данных.
Нет дорожной карты для «ответственного» ИИ
Даже исследователи, призывающие к созданию нового международного органа для регулирования или контроля исследований в области ИИ, возможно, по образцу Международного агентства по атомной энергии или Межправительственной группы экспертов по изменению климата, не смогли заметить связи между ИИ, энергетикой и изменением климата.
Белый дом Байдена заявил, что хочет «ответственный» ИИ. Текущий Национальный стратегический план НИОКР в области искусственного интеллекта включает параграф, в котором отмечается резкое увеличение вычислительных потребностей для ИИ и необходимость сделать ИИ «устойчивым», но не содержит никаких предложений по предотвращению усугубления климатического кризиса из-за роста ИИ.
Организация экономического сотрудничества и развития также выразила «озабоченность вопросами устойчивости». Однако рекомендации в отчёте ОЭСР об экологическом следе ИИ содержали лишь идеи по измерению воздействия ИИ и поддержке приложений ИИ для борьбы с изменением климата.
Демократы в Сенате и Палате представителей США предложили законопроект об оценке текущего воздействия ИИ на окружающую среду и принятии системы отчетности о будущих воздействиях. «Разработка следующего поколения инструментов ИИ не может осуществляться за счет здоровья нашей планеты», — заявил сенатор от Массачусетса Эдвард Марки, один из авторов законопроекта.
Но законопроект не получил большого импульса даже до выборов в ноябре 2024 года. По крайней мере, в Соединенных Штатах дерегулирование теперь кажется более вероятным, чем любое регулирование ИИ или его влияния на климат.
Ядерная промышленность также может выиграть от дерегулирования в следующей администрации. Поддержка ядерной энергетики — редкая область двухпартийного согласия.
Дональд Трамп пообещал прекратить федеральную поддержку мер по смягчению последствий изменения климата, но иногда высказывался о ядерной энергетике положительно.
И будущий вице-президент Джей Ди Вэнс, и Илон Маск, к которым сейчас прислушивается избранный президент, являются ярыми сторонниками ядерной энергетики.
Илон Маск и Питер Тиль сыграли значительную роль в недавней президентской кампании. Тиль приложил руку к продвижению Джей Ди Вэнса, который ранее работал на него, в качестве вице-президента Трампа.
В ноябре 2024 года Тиль пообщался с журналисткой и подкастером Бари Вайс и рассказал ей, что Маск, активно участвовавший в предвыборной кампании Трампа, обеспечил «отличное прикрытие» другим миллиардерам и бизнес-лидерам Кремниевой долины, чтобы они поддержали Трампа.
Теперь у технических специалистов есть чёткий путь к беспрепятственному развитию ИИ, и они уже оказывают давление на Трампа, требуя пересмотреть федеральную политику в области ИИ и отменить законы и нормативные акты, которые «могут без необходимости препятствовать внедрению ИИ».
Золотая лихорадка ИИ в Кремниевой долине почти идеально совпадает с устремлениями Мар-а-Лаго, где ИИ рассматривается как обязательная победа в гонке с Китаем.
***
Статья Доун Стовер раскрывает главную тайну выборов президента США 2024 года.
Лидеры Кремниевой долины объединились вокруг Трампа как кандидата, который движется к успеху, переступая через любые правовые нормы и ограничения.
Камала Харрис, будучи многие годы законопослушным прокурором, для роли нового президента – «беспредельщика» не годилась.
Демократическая «зелёная революция» только мешает Кремниевой долине в гонке ИИ на основе гонки ядерной энергетики.
Здесь сторонниками Кремниевой долины являются Пентагон и ЦРУ, которые уже стали алгоритмизированными ведомствами, целиком завися от новых форм ИИ, разрабатываемых стартапами Кремниевой долины.
Часть «глубинного государства» тоже стала на сторону Трампа – они не могут допустить первенства Китая в технологическом развитии.
Многое может измениться в 2025 году.
*компания Meta (соцсети Facebook и Instagram) признана экстремистской организацией и запрещена в РФ
Елена Ларина, Владимир Овчинский
26.12.2024 В 2025 году от ИИ будет зависеть решение всех мировых проблем
Главная мировая технология ставит «неразрешимые» вопросы, которые предстоит решать
Подводя итоги 2024 года, большинство экспертов мирового уровня подчеркивают значение новых информационно – коммуникационных технологий для решения проблем войны, мира и развития. Главной технологией является искусственный интеллект (ИИ).
2025 год по оценкам экономистов, политологов, специалистов в военном деле станет новой вехой глобального влияния ИИ на все, что происходит на планете.
На первостепенный уровень выходят проблемы национального и глобального управления ИИ.
Здесь многое будет зависеть от позиций США и Китая, стоящих в авангарде развития новых форм и систем ИИ.
О новом советнике Трампа по ИИ
22 декабря 2024 года избранный президент США Дональд Трамп назначил индийско-американского венчурного капиталиста Шрирама Кришнана старшим политическим советником по вопросам ИИ.
«Шрирам Кришнан будет занимать должность старшего советника по вопросам политики в области искусственного интеллекта в Управлении по научно-технической политике Белого дома», — сказал Трамп.
Кришнан будет работать с Дэвидом Саксом, бывшим главным операционным директором PayPal и кандидатом Трампа на пост руководителя политики Белого дома в области искусственного интеллекта и криптовалют.
«Тесно сотрудничая с Дэвидом Саксом, Шрирам сосредоточится на обеспечении постоянного лидерства Америки в области ИИ и поможет сформировать и координировать политику в области ИИ в правительстве, включая работу с Советом советников президента по науке и технологиям», — добавил он, сделав ряд других назначений в сфере ИИ.
Хотя Кришнан не новичок в Кремниевой долине, он стал ключевой фигурой в технологическом ландшафте, особенно после того, как миллиардер Илон Маск купил Twitter и попросил индийско-американского инженера-программиста временно управлять платформой в 2022 году.
Кришнан, родом из Ченнаи, Индия, заслужил репутацию стратегического мыслителя и строителя в Кремниевой долине. Его карьерный путь включает влиятельные роли в таких технологических гигантах, как Facebook* (теперь называется Meta*), Twitter и Snap. В Facebook Кришнан сыграл решающую роль в разработке Facebook Audience Network, которая конкурирует с рекламными технологиями Google. Во время своего первого пребывания в Twitter он курировал инициативы по продуктам, направленные на повышение вовлеченности пользователей.
Перейдя с операционных ролей, Кришнан присоединился к Andreessen Horowitz (a16z), одной из самых известных венчурных компаний Кремниевой долины, в качестве генерального партнера. В a16z он сосредоточился на новых технологиях, в частности, на искусственном интеллекте и криптовалюте, областях, которые сейчас формируют будущее технологической отрасли. Он также возглавил усилия фирмы по международному расширению, включая создание лондонского офиса, первого офиса a16z за пределами Соединенных Штатов.
Взгляд Кришнана на ИИ
Роль Кришнана в качестве старшего советника по политике в области ИИ приходится на критический момент, когда ИИ все больше влияет на геополитику, глобальную конкурентоспособность и экономическое развитие. Его работа в a16z тесно связана с новыми тенденциями в области ИИ, включая достижения в области генеративного ИИ, персонализированных помощников ИИ и этические соображения по развертыванию таких технологий.
В качестве венчурного капиталиста, во время различных выступлений, Кришнан подчеркивал потенциал ИИ для преобразования отраслей. Говоря о пересечении ИИ и бизнеса, он однажды заметил: «Компании, которые принимают ИИ не как инструмент, а как основополагающую возможность, определят следующее десятилетие».
Поскольку США позиционируют себя как лидера в области инноваций в области ИИ, экспертиза Кришнана будет иметь решающее значение. Он будет играть важную роль в консультировании администрации Трампа по политике в области ИИ вместе с экспертом по ИИ и криптографии Дэвидом Саксом. Вместе они будут работать над областями, которые будут балансировать между инновациями и регулированием, что является ключевой задачей для поддержания конкурентоспособности страны в области ИИ.
Что говорят критики о политике Трампа в области ИИ?
Назначение Кришнана старшим советником по вопросам ИИ вызвало ряд реакций со стороны экспертов и комментаторов в технологическом сообществе. Некоторые опасаются изменения подхода новой администрации к политике ИИ, особенно в отношении потенциальной дерегуляции.
Другие считают, что участие лидеров технологической отрасли, таких как Кришнан и Сакс, в политике ИИ может привести к потенциальному конфликту интересов. Учитывая опыт Кришнана в таких компаниях, как Microsoft, Twitter и Meta*, некоторые наблюдатели опасаются, что его назначение может привести к политике, благоприятствующей крупным технологическим корпорациям в ущерб общественным интересам.
Также есть опасения, касающиеся последствий политики администрации в отношении ИИ для стандартов безопасности и этики. Хотя обе основные политические партии продемонстрировали поддержку разработки ИИ, специфика внедрения имеет решающее значение. Критики утверждают, что без строгих мер безопасности быстрое развитие ИИ может привести к непреднамеренным последствиям, включая предвзятость и этические дилеммы.
Одним из главных достижений Кришнана является подкаст, который он ведет вместе со своей женой Аарти. Подкаст под названием The Aarthi and Sriram Show приглашал известных людей из разных областей, таких как Арвинд Шринивас, Вивек Рамасвами и Рио Фердинанд, чтобы дать представление о широком спектре тем, о которых они говорят. Пара также взяла интервью у Илона Маска в одном из своих первых выпусков.
Их подкаст также является платформой для интерпретации и, возможно, предсказания видения Шрирама Кришнана и того, чего можно ожидать, когда вступит в должность 47-й президент Соединенных Штатов. Вот несколько тщательно отобранных фрагментов, которые позволят заглянуть в сознание Шрирама Кришнана по вопросам ИИ.
Загадка регулирования
С такими гостями, как Мартин Касадо из Andreessen Horowitz, Кришнан обсуждает сложности регулирования ИИ. Он анализирует предлагаемые законопроекты США, подчеркивая потенциальные последствия и подвергая сомнению эффективность регулирующих вмешательств в быстро меняющемся технологическом ландшафте.
Он выражает своё негативное отношение к регулированию искусственного интеллекта, проводя аналогию с сериалом «Игра престолов». «Когда вы запускаете регулирование, трудно предсказать, к чему это часто приведет. Люди, которые думали о GDPR, имели благие намерения, они говорили: «Эй, давайте остановим крупные компании социальных сетей от злоупотребления конфиденциальностью». Очень благие намерения, не так ли? Но на самом деле они в конечном итоге делают так, что любой, кто едет в Европу, нажимает на кучу кнопок «принять/отклонить» cookie, которые никто никогда не читает. И в некотором смысле вы на самом деле помогаете крупным компаниям социальных сетей», — утверждает Кришнан.
В беседах с лидерами отрасли, такими как Арвинд Шринивас, основатель Perplexity, Кришнан уверенно исследует сложный ландшафт разработки ИИ. Он подчеркивает важность быстрых инноваций в ИИ, признавая при этом необходимость вдумчивого надзора. «Одна вещь, которая, как мне кажется, очень интересна в том, что вы делаете, — это скорость разработки продукта, а также энергия, которую вы вкладываете в его реализацию», — говорит Кришнан, высоко оценивая преданность Шриниваса своему ремеслу и компании.
Уроки двух десятилетий в сфере технологий
В одном из эпизодов, размышляя о своем путешествии по Кремниевой долине, Кришнан делится некоторыми важными уроками из многолетнего опыта. Он подчеркивает важность соответствия продукта рынку и необходимость долгосрочного видения для устойчивого успеха в мире технологий. Также Кришнан подчеркнул важность формирования талантливой и преданной своему делу команды, особо отметив важность поиска людей, которые полны энтузиазма и разделяют общее видение.
Трамп и глобальное управление ИИ
Доктор Брианна Розен (Оксфордский университет) в статье на сайте Just Security «Что означает «Америка прежде всего» для глобального управления ИИ» (16.12.2024) пишет, что «скорое возвращение избранного президента Дональда Трампа в Белый дом должно преобразовать глобальный ландшафт ИИ с технологическими титанами Кремниевой долины у руля».
Только в декабре Трамп встретился с целой чередой лидеров отрасли, получив пожертвования в размере 1 миллиона долларов в свой инаугурационный фонд от Meta, Amazon и генерального директора OpenAI Сэма Альтмана. «Президент Трамп приведет нашу страну в эпоху ИИ», — сказал Альтман, уловив дух времени. «Я горю желанием поддержать его усилия по обеспечению того, чтобы Америка оставалась впереди».
Поворот Кремниевой долины в сторону Трампа совпадает с недавним выдвижением технических руководителей на ключевые должности в новой администрации. В начале декабря Трамп объявил, что назначит бывшего главного операционного директора PayPal Дэвида Сакса «царем искусственного интеллекта и криптовалют в Белом доме» — новая должность, призванная «сделать Америку мировым лидером в обеих областях», — а Джейкоба Хелберга из Palantir Technologies — заместителем госсекретаря по экономическому росту, энергетике и окружающей среде. Этот выбор сигнализируют о переходе к регулированию невмешательства и повышенном внимании к победе в гонке ИИ с Китаем. Поскольку Америка лидирует в мире по технологиям, талантам и вычислительной мощности, Трамп и его сторонники из Кремниевой долины имеют значительные рычаги для изменения — или прямого отклонения — новых правил дорожного движения для глобального управления ИИ.
Но пока Америка принимает инновации в области ИИ, мир готовится к удару. Трамп 2.0 вызвал страхи перед меркантилизмом, когда технологическое первенство США и доступ к мировым рынкам узурпируют многостороннее сотрудничество. Многие ожидают, что его план «Сделать Америку первой в области ИИ», в том числе путем расширения экспортного контроля эпохи Байдена против Китая, ускорит гонку вооружений в области ИИ, которая уже идет.
Помимо конкуренции с Китаем, Трамп может обратить свой взор на Европу, где технологические гиганты Америки давно раздражаются строгими правилами в отношении ИИ, модерации контента и конфиденциальности данных. Грядущее президентство в области ИИ потребует тщательной подготовки — не только для адаптации к потенциальным изменениям в политике США, но и для обеспечения международного сотрудничества в области управления ИИ.
Иллюзия полной перезагрузки
Чтобы подготовиться к предстоящему лидерству в области ИИ, крайне важно оглянуться в прошлое. Администрация Байдена добилась прогресса в разработке внутренних и международных рамок управления ИИ. В указе президента от октября 2023 года об ИИ США призвали «проложить путь» в продвижении «ответственных принципов и действий в области безопасности ИИ».
Вместе с союзниками администрация Байдена взаимодействовала с Европейским союзом по вопросам ИИ через Совет по торговле и технологиям, сыграла ведущую роль в спонсируемом Великобританией Глобальном саммите по безопасности ИИ и созвала первое заседание Международной сети институтов безопасности ИИ, среди прочих инициатив.
Администрация Байдена также впервые провела официальные двусторонние переговоры с Китаем по вопросам управления ИИ. При этом президент Джо Байден и председатель КНР Си Цзиньпин договорились сохранить человеческий контроль над ИИ в ядерной сфере. Байден и Си Цзиньпин подтвердили это соглашение на встрече в ноябре, подчеркнув «необходимость тщательного рассмотрения потенциальных рисков и разработки технологий ИИ в военной области осмотрительным и ответственным образом».
Даже в таких спорных областях, как оборона и безопасность, администрация Байдена лидирует в разработке многосторонних рамок для управления ИИ. Соединенные Штаты разработали Политическую декларацию 2023 года об ответственном военном использовании искусственного интеллекта и автономии, юридически необязательное соглашение, одобренное более чем 50 странами, которое устанавливает нормы для разработки и развертывания систем ИИ в военной сфере. Эти страны провели заседания рабочих групп по военному ИИ и настоятельно призвали международных партнеров реализовать Политическую декларацию на втором глобальном саммите по ответственному ИИ в военной сфере в сентябре 2024 года.
В октябре администрация Байдена также опубликовала свой знаменательный Меморандум о национальной безопасности (NSM по ИИ), результат годичного процесса, организованного указом президента 2023 года для обзора интеграции ИИ в системы национальной безопасности. NSM предписывает агентствам национальной безопасности США «сотрудничать с союзниками и партнерами для создания стабильной, ответственной и уважающей права структуры управления».
При Трампе эти зарождающиеся усилия сталкиваются с неопределенным будущим. Во время кампании Трамп обещал отменить указ Байдена об ИИ и ослабить предполагаемые ограничения на свободу слова. Тем не менее, изменения могут быть скорее эволюционными, чем революционными. Когда Трамп вступит в должность, его администрация унаследует сложную сеть структур управления ИИ, политик и правил, охватывающих сотни правительственных департаментов и агентств США — от Управления по управлению и бюджету до Министерства обороны и Разведывательного сообщества.
Многие существующие правила также отражают более чем десятилетнюю двухпартийную поддержку государственных расходов на исследования и разработки в области ИИ, инициативы в области рабочей силы и усилия по использованию технологий для защиты национальной безопасности США.
Следует также напомнить, что первая администрация Трампа заложила основу для нынешних структур управления ИИ, издав в 2019 году указы о «Поддержании лидерства Америки в области искусственного интеллекта» и в 2020 году о «Содействии использованию надежного искусственного интеллекта в федеральном правительстве». Оба указа подчеркивали необходимость безопасной, ответственной и прозрачной разработки и развертывания ИИ в соответствии с законами и ценностями США.
Ключевые политические рамки, касающиеся использования ИИ в оборонных и разведывательных сообществах, также появились во время первого президентства Трампа, включая «Этические принципы для искусственного интеллекта» Пентагона и «Принципы этики искусственного интеллекта для разведывательного сообщества» Управления директора национальной разведки. Администрация Байдена основывалась на этих рамках эпохи Трампа, и Трамп вряд ли полностью от них откажется.
Администрация Трампа не только не ослабит все ограничения эпохи Байдена, но и, скорее всего, примет секторный подход к регулированию, сфокусированный на узконаправленных приложениях ИИ, вместо нисходящего регулирования для снижения потенциальных рисков. Например, ожидается, что Трамп предоставит технологическим компаниям большую свободу для саморегулирования и экспериментов с возможностями ИИ. Эта свобода, в свою очередь, может привести к большему акценту на регулировании развертывания (а не разработки) инструментов ИИ в определенных секторах. Как выразился венчурный капиталист Марк Андрессен, Трамп дал понять Кремниевой долине, что «пришло время строить».
Похоже, что администрация Трампа также, скорее всего, отдаст приоритет оптимизации структур ИИ, устранит обременительные требования к отчетности и будет больше полагаться на применение существующих законов к ИИ, а не на создание новых законов или норм.
От внутреннего к глобальному управлению
Пока еще неизвестно, как изменения внутренней политики США отразятся на мировой арене. Во время первого срока администрация Трампа преодолела свое первоначальное нежелание присоединиться к Глобальному партнерству по ИИ, запущенному в июне 2020 года для содействия межправительственному сотрудничеству в области ИИ, только после того, как решила, что эта инициатива поможет снизить влияние Китая. На этот раз ожидается, что Трамп займет еще более жесткую позицию, касающуюся Китая в отношении ИИ. Помимо расширения экспортного контроля эпохи Байдена на технологии, связанные с ИИ, новая администрация, вероятно, закроет пробелы в более ранних правилах, которые позволяли Китаю обходить их. Предстоящий саммит по ИИ в Париже 10 февраля 2025 года, в котором, как ожидается, примут участие и США, и Китай, послужит лакмусовой бумажкой того, будет ли новая администрация продолжать ограниченное сотрудничество с Китаем по управлению ИИ наряду с этими мерами.
Что касается военного ИИ, то сообщения об использовании Китаем моделей ИИ с открытым исходным кодом для военных и разведывательных целей, скорее всего, еще больше подстегнут гонку вооружений ИИ. Администрация Трампа готова расширить использование ИИ в национальной безопасности, выделив больше финансирования технологическим компаниям для разработки секретных версий коммерчески доступных инструментов. Доверенное лицо Трампа и генеральный директор X Илон Маск, который возглавит недавно созданный Департамент эффективности правительства, нацелился на нарушение традиционных процессов закупок технологий в Пентагоне, потенциально отдавая предпочтение таким небольшим компаниям, как Anduril и Palantir. Даже OpenAI, которая до недавнего времени отказывалась работать с американскими военными, 4 декабря 2024 года объявила, что будет сотрудничать с оборонным подрядчиком Anduril для интеграции ИИ в системы противодействия беспилотникам Пентагона.
Недавно объявленные Трампом кандидатуры на посты в его кабинете и на другие высшие должности поддерживают эту тенденцию, поскольку и Сакс, и Хелберг давно выступали за большую интеграцию инструментов ИИ в военные и национальные системы безопасности и помогали ей. Хелберг, в частности, описал ИИ и другие технологии как втягивание Соединенных Штатов в «серую войну» с Китаем, Россией, Ираном и другими государствами — войну, в которой только Кремниевая долина может помочь выиграть. Но эта точка зрения также не нова. На протяжении десятилетий было ясно, что Кремниевая долина, а не Вашингтон, будет диктовать способы ведения гонки ИИ. Теперь союзникам США придется бороться с обоими.
Америка первая в области искусственного интеллекта или Америка в одиночку?
Соединенные Штаты уже находятся на пути столкновения со своими трансатлантическими партнерами, когда речь заходит о технологической политике. Tрамп 2.0 стал тревожным звонком для Европы, поскольку Европейский союз стремится продвигать собственные стандарты управления ИИ через Закон об ИИ, Закон о цифровых услугах (DSA) и другие. В 2025 году регулирующие органы ЕС будут противостоять ключевым союзникам Трампа, включая Илона Маска, чья платформа X была уличена в несоблюдении DSA и ей грозит крупными штрафами в размере до 6% от мирового дохода компании. Избранный вице-президент Джей Ди Вэнс ранее угрожал прекратить финансирование НАТО США, если Европейский союз введет такие штрафы.
Между тем, Соединенное Королевство — крупный игрок в области ИИ с привилегированным доступом к технологиям и разведданным США — также обеспокоено чрезмерной зависимостью от американских технологических компаний. Даже при администрации Байдена советники правительства Великобритании осознавали тот факт, что Соединенные Штаты обещали «справедливый», но не равный доступ к преимуществам ИИ. Победа Трампа усугубила эти опасения. 13 декабря 2024 года министр технологий Великобритании Питер Кайл заявил, что администрация Трампа будет придерживаться «совершенно» иного подхода к регулированию, который может поставить под угрозу международное сотрудничество через институты безопасности ИИ, поскольку команда Трампа решает, следует ли сворачивать Институт безопасности ИИ США, созданный по указу Байдена.
Если Соединенные Штаты еще больше отступят в протекционизм или пойдут своим путем, Европа может быть вынуждена взять на себя роль глобального управления ИИ. Но с меньшим капиталом, талантом и технологическим потенциалом Европа обладает гораздо меньшим влиянием, чем Соединенные Штаты.
И Европейский союз, и Великобритания значительно отстают от Соединенных Штатов в разработке ИИ, привлекая всего 9,5 млрд долларов инвестиций в ИИ в прошлом году по сравнению с примерно 66 млрд долларов в Соединенных Штатах.
С точки зрения вычислительной инфраструктуры, Соединенные Штаты построили больше мощностей центров обработки данных за последний год, чем весь мир вместе взятый, за исключением Китая. И Соединенные Штаты не всегда соблюдают те же правила, что и Европейский союз, поскольку крупные технологические компании, такие как Meta и X, отказываются выпускать определенные продукты ИИ в Европе из-за строгих правил. Все это уменьшило «брюссельский эффект» законодательства ЕС в области ИИ.
Тем не менее, одна страна может выиграть от растущего трансатлантического технологического разрыва: Китай. Благодаря своей Глобальной инициативе по управлению ИИ Пекин продвигает видение, основанное на государственном контроле и технологическом суверенитете. Он активно продвигает этот подход на международных форумах, включая Группу 77 в Организации Объединенных Наций, а также через многосторонние альянсы, такие как БРИКС (Бразилия, Россия, Индия, Китай и Южная Африка). В то же время Китай через свой Цифровой Шелковый путь вложил значительные средства в инфраструктурные проекты на Глобальном Юге, включая волоконную оптику, технологии наблюдения и инструменты государственного сектора на базе ИИ. Экспортируя технологии, встроенные в его стандарты, Китай способствует долгосрочным зависимостям и пропагандирует свое видение управления ИИ. Это видение все больше находит отклик у правителей на Ближнем Востоке и в Северной Африке, которые обеспокоены «алгоритмической колонизацией» и исключением из западных структур.
Технологическое превосходство не победит в гонке ИИ
Розен делает вывод, что «необузданный протекционизм или односторонность рискуют усугубить фрагментацию регулирования, ослабить трансатлантические партнерства и оттолкнуть Глобальный Юг. Это также рискует создать несогласованные стимулы или разрывы в совместимости с союзниками и партнерами США, подрывая коллективную безопасность. В долгосрочной перспективе эти силы будут служить только снижению способности Соединенных Штатов противостоять Китаю.
При отсутствии стратегического взаимодействия по будущему глобального управления ИИ «Америка прежде всего» вскоре может стать «Америкой в одиночку».
Трамп, ИИ и Китай
Скот Сингер (Фонд Карнеги за международный мир**) в статье на сайте Just Security «Трамп балансирует в отношениях с Китаем в области искусственного интеллекта» (23.12.2024) пишет:
«Во время пресс-конференции 18 декабря 2024 года в Мар-а-Лаго избранный президент Дональд Трамп занял неожиданную позицию, заявив, что США и Китай могли бы «работать вместе, чтобы решить все мировые проблемы». Поскольку ястребы по отношению к Китаю готовятся занять ключевые посты в его администрации, примирительный тон Трампа резко контрастирует с жесткой позицией его команды в отношении Пекина».
Однако история отношений Трампа с Китаем предполагает готовность сочетать жесткую публичную позицию с прагматичным заключением сделок, стратегия, которая может определить его политику в области искусственного интеллекта. Такой подход перекликается с тем, как Трамп справлялся с кризисом ZTE во время своего первого срока в 2018 году, когда семилетний запрет на продажу деталей американскими фирмами китайскому телекоммуникационному гиганту грозил парализовать компанию. Трамп отменил решение в обмен на дорогостоящие уступки, включая штраф в размере 1,4 млрд долларов, продемонстрировав свою готовность отказаться от ястребиного давления, когда выгодная сделка совпала с его целями.
В политике ИИ следующая администрация, по мнению Сингера, скорее всего, примет подход, основанный на транзакциях, для продвижения американской технологии ИИ за рубежом и завоевания доли мирового рынка. Центры обработки данных, широкомасштабные приложения ИИ и даже передовые чипы могут быть выставлены на продажу в странах Персидского залива, Юго-Восточной Азии и Африке в рамках согласованной попытки выиграть то, что высшие должностные лица администрации часто называют «гонкой ИИ против Китая».
Тем не менее, поскольку ожидается, что Трамп и его команда будут преследовать свои глобальные амбиции ИИ для укрепления американской национальной конкурентоспособности, двусторонняя динамика отношений США и Китая становится все более заметной. С быстро улучшающимися возможностями пограничного ИИ, отмеченными существенным ростом возможностей в новой модели o3 OpenAI, выпущенной 20 декабря 2024 года, отношения между великими державами, возможно, остаются как самым большим препятствием, так и самой большой возможностью для Трампа формировать будущее ИИ.
Вывод американских инноваций на мировую арену
В настоящее время Соединенные Штаты лидируют в мире по передовым моделям искусственного интеллекта и опережают Китай в других ключевых областях, таких как НИОКР в области искусственного интеллекта. Это лидерство в первую очередь возникло из-за ранних инвестиций Соединенных Штатов и накопления талантов в области искусственного интеллекта. Лидерство было расширено за счет экспортного контроля, впервые введенного во время первой администрации Трампа с целью ограничить доступ Китая к передовым полупроводникам. Ранее в декабре 2024 года администрация Байдена расширила свой экспортный контроль, введя новые ограничения на полупроводниковое оборудование. Ожидается, что эти меры контроля значительно увеличат затраты, связанные с производством самых передовых чипов Китая. Текущее лидерство дает Соединенным Штатам силу и рычаги, поскольку у них есть более качественная продукция для продажи, чем у их конкурентов.
Но ведущие деятели технологической политики, включая некоторых ключевых сторонников Трампа, обеспокоены тем, что текущих преимуществ только в передовых моделях будет недостаточно. Некоторые опасаются, что прогресс ИИ в США может замедлиться или что встраивание ИИ в критически важные инфраструктуры или приложения, в которых преуспевает Китай, в конечном итоге будет таким же или более важным для национальной конкурентоспособности.
Китайские модели с открытым исходным кодом стали такими же хорошими — или даже лучше — чем альтернативы с открытым исходным кодом в США. Модель Hunyuan от Tencent превзошла LLaMa 3.1-405B от Meta по целому ряду тестов. Модель Qwen2.5 от Alibaba показала лучшие результаты по различным оценкам возможностей, чем модели GPT-4o от OpenAI и Claude 3.5 Sonnet от Anthropic. И самое впечатляющее, что DeepSeek выпустила «модель рассуждений», которая обоснованно бросает вызов возможностям модели o1 от OpenAI по целому ряду тестов.
Учитывая сравнительные преимущества США в доступе к вычислениям и передовым моделям, новая администрация может найти время, чтобы правильно воспользоваться этим и поставить экспорт ИИ в мировом масштабе в центр технологической политики Трампа.
В то время как администрация Байдена стремилась стратегически защитить преимущества США в области ИИ, Трамп может попытаться продвигать технологию ИИ в стране.
До сих пор администрация Байдена откладывала сложное решение о том, отправлять ли передовые полупроводники в страны, застрявшие в середине конкуренции США и Китая, такие как Саудовская Аравия и ОАЭ. Но администрации Трампа в конечном итоге нужно будет установить курс для своей международной политики в этой области. Ей нужно будет решить, контролировать ли вычислительные ресурсы США, распределять их по всему миру или использовать их для обеспечения дипломатических уступок.
Хотя Трамп, безусловно, попытается использовать преимущество Соединенных Штатов в возможностях пограничной модели для уступок, в конечном итоге он может больше поддерживать подход, ориентированный на международный рынок, который высвобождает экспорт графических процессоров (GPU) из США за рубеж, компьютерных чипов, особенно важных для обучения современных моделей.
Его администрация может также больше поддерживать партнерства по созданию центров обработки данных за рубежом, такие как сделка, заключенная Microsoft с G42, поддерживаемой ОАЭ компанией, критически важной для усилий страны по расширению инвестиций в ИИ. И она может более активно поддерживать сделки, такие как недавно заключенная Nvidia о партнерстве с правительством Вьетнама для открытия центра исследований и разработок в области ИИ .
Эти компании независимо друг от друга стремились к глобальной экспансии, но администрация Трампа могла бы предоставить этим фирмам стимулы для создания международного присутствия и закрепления американских технологий в ключевых критических инфраструктурах, как это сделала ведущая китайская телекоммуникационная компания Huawei на мировых рынках 5G за последнее десятилетие.
Модели ИИ легко заменить; критические инфраструктуры, напротив, заменить нельзя. Более того, команда Трампа могла бы стремиться специально расширить возможности небольших фирм и стартапов, которые в противном случае могли бы бороться за конкуренцию на международном рынке без поддержки правительства. И она может начать изучать новые способы расширения возможностей экосистемы с открытым исходным кодом внутри страны с прицелом на международную конкурентоспособность, создавая финансовые стимулы для разработки решений с открытым исходным кодом.
Трамп также мог бы использовать преимущества США в области ИИ в секторе развития, где страна сталкивается с постоянными вызовами со стороны Китая. Глобальная инициатива Китая по управлению ИИ предлагает платформу для внедрения китайских систем ИИ по всему миру, например, путем внедрения технологий умного города, таких как сетевые камеры и датчики. В своем Плане действий по наращиванию потенциала ИИ Китай четко заявил о своей цели делиться своими передовыми методами с развивающимися странами, проводить программы обучения и обмена ИИ и создавать инфраструктуру данных для содействия справедливому и инклюзивному доступу к глобальным данным.
Усилия Китая основаны на прочной традиции экспорта технологий и талантов в такие регионы, как Латинская Америка, где Соединенные Штаты не смогли конкурировать. Команда Трампа, скорее всего, захочет конкурировать в секторе развития, но не решится передать ресурсы помощи развитию в области ИИ Организации Объединенных Наций, что отражает его настороженность в отношении международных институтов с большим количеством членов и жесткими бюрократическими структурами. В частности, амбиции Организации Объединенных Наций по созданию глобального фонда для ИИ могут столкнуться с трудностями в получении существенной поддержки США.
Но нежелание Трампа сотрудничать с ООН не обязательно остановит следующую администрацию от продвижения расширения доступа к талантам, вычислениям и данным в странах с низким и средним уровнем дохода. Это также могло бы уполномочить агентства по содействию экспорту, такие как Экспортно-импортный банк, участвовать в заключении сделок на основе развития с остальным миром. Такие сделки позволили бы Соединенным Штатам устанавливать мировые стандарты путем внедрения технологий в критически важные инфраструктуры, а не ведения переговоров по ним на международных форумах.
В сентябрьском (2024 г.) отчете нынешний кандидат на пост госсекретаря Марко Рубио прямо заявил о необходимости предоставления Соединенными Штатами убедительных технологических альтернатив в третьих странах для борьбы с усилиями Китая за рубежом. Его офис написал: «Соединенным Штатам нужно будет предложить существенную альтернативу, а не только решительное осуждение и гуманитарную помощь».
Трамп давно предпочитает торговые сделки один на один, а не работу через международные институты. Сделки администрации Трампа по разработке ИИ могли бы также заключаться на двусторонней основе. Но его первая администрация продемонстрировала готовность участвовать в тщательно продуманных многосторонних усилиях, когда они служили интересам США.
Трамп и Майкл Крациос, который недавно был назначен директором Управления по научно-технической политике Белого дома, привели Соединенные Штаты в Глобальное партнерство G7 по ИИ, оформленное в основном как многосторонние усилия по противодействию амбициям Китая в области ИИ. Аналогичные сделки, вероятно, могут быть заключены для целевых проектов развития в рамках G7 или других тщательно продуманных многосторонних усилий, при условии, что любая сделка в конечном итоге будет рассматриваться как повышение национальной конкурентоспособности США.
Возможна ли сделка США и Китая в сфере ИИ?
Пока Трамп следует глобальной стратегии ИИ, двусторонние отношения с Китаем вырисовываются как величайшая проблема и, потенциально, самая интригующая возможность. Он наследует третий раунд экспортного контроля, который, хотя и подвергается жесткой критике, следует основной логике, которая ставит превосходство передовых моделей ИИ США в основу политики ИИ. Ключевые кандидаты, такие как заместитель госсекретаря по экономическому росту Джейкоб Хелберг, ярый сторонник усилий по запрету TikTok, сигнализируют о продолжающемся давлении с целью отделения критически важных цепочек поставок технологий от Китая.
Более широкий контекст отношений США и Китая создает дополнительные препятствия. Угроза Трампа ввести 100-процентные тарифы для стран БРИКС и продолжающаяся напряженность по обе стороны пролива создают среду, в которой содержательный диалог по ИИ кажется маловероятным. Действительно, первый официальный диалог США и Китая по ИИ, состоявшийся в мае 2024 года в Женеве, не принес существенного прогресса в достижении консенсуса по пограничным рискам. Учитывая общую воинственность администрации Трампа, маловероятно, что Трамп и председатель КНР Си Цзиньпин отдадут приоритет соглашению США и Китая по пограничному ИИ, когда модели в обеих странах становятся все более мощными.
Однако история показывает возможности в неожиданных местах. Так же, как ястребиные полномочия Ричарда Никсона позволили ему открыть отношения с Китаем в 1972 году, позиция Трампа может создать пространство для целевого сотрудничества. Такая сделка, безусловно, маловероятна. И предсказать, какие типы сделок могут возникнуть в быстро меняющейся геополитической среде и непредсказуемой технологической траектории ИИ, — практически невозможное занятие.
Трамп может найти веские деловые или стратегические причины для взаимодействия с Китаем в сфере ИИ. В смежных частях развивающейся технологической экосистемы Трамп уже подумывает о вмешательстве в надвигающийся запрет TikTok в Соединенных Штатах, говоря: «У меня в сердце теплое место для TikTok», и что он «выиграл у молодежи 34 очка, и есть те, кто говорит, что TikTok как-то к этому причастен». Семена для того, чтобы Трамп вел дела с Китаем в развивающейся технологической сфере, были посеяны.
Помимо экономических мотивов, проблемы безопасности, связанные с все более мощными пограничными системами ИИ как в США, так и в Китае, могут создать достаточно большую зону возможного соглашения для заключения сделки. Уже есть прецедент координации на высоком уровне между США и Китаем для решения общих проблем безопасности ИИ: в прошлом месяце Байден и Си Цзиньпин согласились, что люди должны принимать все решения относительно применения ядерного оружия.
Уже есть признаки того, что администрации Трампа придется еще серьезнее отнестись к проблемам систем безопасности моделей. Когда модель o1 OpenAI поверила, что ее будут отслеживать и отключать за махинации с целью достижения определенной цели, она попыталась деактивировать свой механизм надзора в пяти процентах случаев, а модель Claude 3 Opus от Anthropic занималась стратегическим обманом, чтобы избежать изменения своих предпочтений в 12 процентах случаев. Между тем, модель R1 DeepSeek оказалась легко взломанной, и, как сообщается, один пользователь X заставил модель предоставить подробный рецепт метамфетамина. Эти опасения давно разделяют некоторые из самых важных фигур в окружении Трампа. Илон Маск, возможно, самый влиятельный советник Трампа по ИИ, заявил, что, по его мнению, существует 10–20-процентная вероятность того, что искусственный интеллект «испортится».
Сближение растущих возможностей ИИ и проблем безопасности может создать неожиданные возможности для координации действий США и Китая, даже несмотря на то, что конкуренция между великими державами усиливается в глобальном масштабе. Сочетание инстинктов Трампа в заключении сделок и ястребиной репутации ставит его в уникальное положение для проведения как агрессивной глобальной экспансии технологий ИИ США, так и целенаправленного сотрудничества там, где интересы совпадают.
На данный момент конкретные контуры любого потенциального соглашения по ИИ остаются спекулятивными. Но послужной список Трампа показывает, что сделки, которые когда-то считались невозможными, могут возникнуть, когда императивы безопасности и бизнес-возможности совпадают. В области высоких ставок пограничного ИИ транзакционный подход Трампа к внешней политике может оказаться благоприятным для прорывных соглашений — даже, или особенно, с Китаем.
Трамп и инвестиции в ИИ и систему его энергообеспечения
«Поскольку администрации передавали эстафету друг другу, даже несмотря на смену политических партий, общий акцент на увеличении инвестиций в ИИ и на том, чтобы рассматривать ИИ как ключевую новую технологию, только усилился», — рассказал GovCIO Media & Research (20.12.2024) Кумар Гарг, бывший старший советник заместителя директора Управления по научно-технической политике Белого дома (OSTP).
Что Трамп сделает для ИИ?
Платформа Республиканской партии 2024 года раскритиковала указ Байдена об ИИ за то, что он воспринимался как создание барьеров для инноваций. «Республиканцы поддерживают разработку ИИ, основанную на свободе слова и процветании человека», — говорится в документе.
Гарг отметил, что независимо от того, какой подход к разработке политики в отношении ИИ решит новая администрация, инвестиции в энергетическую инфраструктуру США и НИОКР будут иметь решающее значение для конкурентного преимущества страны.
Двухпартийная целевая группа Палаты представителей по искусственному интеллекту в своем последнем отчете, опубликованном в декабре 2024 года, описала, как выглядит политически общее видение ИИ. В отчете изложены многочисленные ключевые выводы и рекомендации по разработке стандартов, а также подчеркивается ценность частного сектора.
«Несмотря на широкий спектр политических взглядов членов нашей целевой группы, мы создали отчет, который отражает наше общее видение будущего, в котором мы защищаем людей и поддерживаем американские инновации. Мы приложили все усилия на основе имеющейся у нас информации, но с учетом быстрого темпа изменений как в программном обеспечении, так и в оборудовании ИИ мы полностью осознаем, что мы не знаем, чего мы не знаем. Этот первоначальный отчет — только первый шаг», — сказал сопредседатель целевой группы, конгрессмен Тед Лью об отчете .
Создание энергетической инфраструктуры для поддержки искусственного интеллекта
Растущий спрос на ИИ означает, что спрос на электроэнергию для его питания также растет, что создает проблемы для доступности физической инфраструктуры, надежности электросетей и доступной электроэнергии.
Чиновники Министерства энергетики (DOE) заявили, что потребление электроэнергии в США росло на 0,5% в год за последние два десятилетия, а последние оценки предполагают ежегодный рост не менее чем на 0,9% до 2030 года и увеличение пятилетнего совокупного прогноза роста с 2,6% до 4,7% из-за всплеска ИИ и центров обработки данных.
«Новая, возникающая проблема — это пересечение ИИ и энергетики. Можем ли мы нарастить достаточную энергетическую мощность для поддержания ИИ? Если законы масштабирования сохранятся, а ведущие компании продолжат наращивать большую потребность в вычислениях и обучении, какая мощность центра обработки данных понадобится? И насколько это окажет давление на сеть? И где мы можем строить?» — сказал Гарг.
Гарг отметил, что вторая администрация Трампа столкнется с двумя ключевыми проблемами при наращивании энергетического потенциала для поддержки ИИ: выдача разрешений и передача энергии.
«Например, мы видели, как в таких штатах, как Техас и других, разработали нормативную политику… и опережают в развертывании чистой энергии», — сказал Гарг. «Затем идут такие вещи, как передача, когда вы строите в одном месте и хотите переехать в другое… это может создать небольшую гонку между штатами, чтобы сказать: «Если мы не построим соответствующую энергетическую мощность, люди не будут строить свои центры обработки данных в нашем штате»».
Инновации в энергетическом секторе имеют важное значение для будущего ИИ. Аналитики из Special Competitive Studies Project (SCSP), аналитического центра, базирующегося в Арлингтоне, штат Вирджиния, отметили роль энергетического сектора в доминировании США в области ИИ.
«Стремление Китая к развитию технологий возобновляемой энергии и доминированию в цепочках поставок важнейших минералов представляет собой прямой вызов лидерству США в энергетическом секторе», — говорится в недавнем меморандуме .
В нем обозначены пять основных препятствий: недостаточное предложение существующих источников энергии для питания ИИ; нормативные препятствия, создающие барьеры для инноваций; ограничения физической инфраструктуры электросети США; фрагментация рынка, ограничивающая сотрудничество и глобальную конкуренцию со стороны иностранных противников.
Некоторые из рекомендаций включают оптимизацию процессов регулирования, обеспечение безопасности сети и укрепление партнерских отношений.
Администрация Байдена в ходе сентябрьского (2024 г.) круглого стола инициировала несколько новых мер, направленных на энергетическую инфраструктуру, включая:
создание новой целевой группы по инфраструктуре центров обработки данных на базе ИИ для координации политики в правительстве;
расширение масштабов технической помощи для получения разрешений на создание центров обработки данных;
создание группы по взаимодействию с центрами обработки данных на базе ИИ в Министерстве энергетики.
В отчете рабочей группы Конгресса по ИИ рекомендуется федеральным лидерам поддерживать и увеличивать инвестиции в научные исследования, которые обеспечивают энергетическую инфраструктуру, активизировать усилия по отслеживанию и прогнозированию энергопотребления центров обработки данных ИИ, а также обеспечить, чтобы ИИ и энергосистема стали частью более широких дискуссий о модернизации и безопасности сетей.
Еще одним вопросом, связанным с возросшими потребностями электросети, является обеспечение ее кибербезопасности.
«Министерство энергетики, Министерство внутренней безопасности (DHS), Североамериканская корпорация по надежности электроснабжения (NERC), FERC и Центр обмена и анализа информации по электроснабжению (E-ISAC) должны внедрить комплексные и передовые меры кибербезопасности, такие как мониторинг угроз в режиме реального времени, чтобы защитить всю энергетическую систему — от генерации до распределения — от кибератак», — говорится в отчете SCSP.
В 2023 году Министерство энергетики США и Агентство по кибербезопасности и безопасности инфраструктуры (CISA) приняли новые меры по обеспечению безопасности и устойчивости электросети в ответ на различные инциденты, произошедшие в 2022 году и угрожавшие электрическим подстанциям по всей территории США.
«Хотя работа всегда продолжалась, было крайне важно снова привлечь к ней внимание всех и напомнить им об этих передовых практиках», — сказала заместитель директора по готовности, политике и анализу рисков DOE Мара Винн в интервью GovCIO Media & Research в 2023 году. «Мы хотели убедиться, что есть ресурсы для руководства осведомленностью об угрозах, какие меры физической безопасности возможны, и иметь многоуровневую стратегию безопасности, чтобы в конечном итоге уменьшить или минимизировать последствия атаки».
Инвестиции в НИОКР в области искусственного интеллекта
Руководители государственного сектора сходятся во мнении, что исследования и разработки имеют решающее значение для сохранения конкурентоспособности США в сфере ИИ.
«Сохранение стратегического лидерства в области ИИ было довольно последовательным. Тогда возникает вопрос, каковы основные части этого? Часть этого — НИОКР. Поэтому, если будут сокращения инвестиций США в НИОКР, я думаю, это будет весьма негативно», — сказал Гарг.
Согласно указу Байдена об ИИ, федеральные агентства обязаны инвентаризировать случаи использования ИИ и делиться ими в правительстве и с общественностью. Ранее в этом месяце агентства опубликовали обновленный перечень, в котором перечислено более 1700 случаев использования.
Национальный научный фонд (NSF) находится в авангарде исследований и разработок в области искусственного интеллекта, опубликовав 16 примеров использования искусственного интеллекта, включая озвучивание с помощью искусственного интеллекта, обработку FOIA и «Ask NSF Initial Pilot».
В рамках указа Байдена NSF запустил пилотную программу National AI Research Resource (NAIRR) в партнерстве с 10 другими федеральными агентствами и 25 неправительственными партнерами, чтобы предоставить дополнительные ресурсы для поддержки научно-исследовательского и образовательного сообщества страны. Агентство намерено запустить полную программу в 2026 году.
Дороти Аронсон, главный специалист по ИИ в NSF , рассказала GovCIO Media & Research, что пилотные мероприятия закладывают основу для будущей полномасштабной инфраструктуры исследований ИИ. На сегодняшний день было выделено более 200 грантов на поддержку инноваций в области ИИ и кибербезопасности в сельском хозяйстве, здравоохранении и обнаружении лесных пожаров.
«Прорывы в области ИИ, которые мы наблюдаем, являются результатом многолетних инвестиций в исследования и образование в области ИИ, в которых NSF сыграл решающую роль», — сказал Аронсон GovCIO Media & Research. «Развитие и образование также важны, поскольку преимущества ИИ могут быть широко распространены только в том случае, если многие люди информированы и осведомлены, а правильные методы разрабатываются таким образом, чтобы решать важные проблемы».
Аронсон сказал, что прислушиваться к исследователям на передовой — это самый важный метод, который NSF использует, чтобы оставаться впереди в исследованиях и разработках. Поскольку США пытаются сохранить свое преимущество в области ИИ, тенденции и отзывы исследовательского сообщества будут влиять на разработку новых программ и возможностей финансирования.
«Конкуренция с Китаем , скорее всего, останется на переднем плане. Я думаю, что администрация Трампа будет уделять гораздо больше внимания финансированию исследований и разработок через такие агентства, как DARPA и NSF», — сказал в интервью GovCIO Media & Research Билл Райт, который занимал должность старшего операционного сотрудника в Управлении директора национальной разведки, а теперь руководит правительственными связями в Elastic.
Что ждет политику в области ИИ дальше?
По мнению Гарга, новым назначенцам Трампа в сфере технологий следует разработать гибкий подход и сосредоточиться на улучшении прогнозирования, чтобы стимулировать принятие решений на основе данных в правительстве, создании институтов для управления ИИ, а также привлечении и удержании лучших специалистов в области ИИ.
«Лучший способ думать о нормативной базе — это не то, что вы пытаетесь управлять сегодняшним днем. То, что вы пытаетесь сделать, это сказать: «Хорошо, у нас есть таланты? Есть ли у нас модели сотрудничества между промышленностью и правительством и другими, чтобы, по мере того как модели становятся все более мощными, вы могли разобраться?» — сказал Гарг. «Очень сложно создать эти четкие правила, потому что очень часто при быстро развивающейся технологии правила оказываются хрупкими. Поэтому вам нужно выстроить более гибкий подход».
Трамп и регулирование ИИ
Кевин Вербах (профессор юридических наук и деловой этики в Школе бизнеса Уортона, бывший консультантом Федеральной комиссии по связи и экспертом по регулированию технологий, праву и этике) в статье в журнале Wharton School of University of Pennsylvania «Даже при Трампе управление ИИ останется» (17.12.2024) пишет:
«Что бы вы ни думали о новой администрации Трампа, важно признать эту реальность: нас ждет большой толчок к более свободному регулированию ИИ. Влиятельная группа деятелей Кремниевой долины полностью поддержала президентскую кампанию Трампа, и эта группа ожидает, что ее программа будет реализована. Их мантра — освободить развитие ИИ в США, чтобы выиграть гонку вооружений ИИ с Китаем и принести обществу исключительную пользу».
Тем не менее, управление ИИ, как тема серьезных дебатов (и как вопрос практической реализации), - считает Вербах, - никуда не денется.
На первый взгляд, позиция Трампа в отношении ИИ может показаться поворотом на 180 градусов по сравнению с позицией Байдена. Это, конечно, риторический стиль. Но на практике вероятная политика команды Трампа в отношении ИИ демонстрирует удивительную преемственность с той, которую проводит штаб Байдена.
Первое, что нужно понять, это то, что подавляющее большинство регулирования, охватывающего ИИ, не является явным «регулированием ИИ». Большая его часть заключается в применении правил общего назначения. Например, инструмент проверки резюме на основе ИИ, который ставит в невыгодное положение кандидатов из числа меньшинств или женщин, может нарушить антидискриминационные законы. Другие проблемы относятся к сфере частных судебных разбирательств. Существует множество исков об авторских правах и конфиденциальности против крупных лабораторий ИИ.
«Даже если мы говорим о целенаправленном государственном регулировании, правительство США — лишь второстепенный игрок. Отдельные штаты приняли десятки законопроектов об ИИ, и еще сотни находятся на рассмотрении».
Несмотря на формальное ограничение географического охвата, эти законы могут заставить компании изменить свою практику по всей стране, особенно если они происходят из крупных штатов, таких как Калифорния. Другие правительства, в первую очередь Европейский союз, приняли обширные правила ИИ для всех, кто ведет бизнес в пределах их границ или с их гражданами, что затронуло большинство крупных фирм, базирующихся в США.
Переход к саморегуляции
Реальность такова, что, учитывая сложность принятия законодательства в Конгрессе, регулирующий подход администрации Байдена к ИИ был в значительной степени ориентирован на «мягкое право»: инфраструктуру и стимулы для компаний, чтобы они сами занимались эффективным управлением ИИ. Эти усилия, такие как сотрудничество Национального института стандартов и технологий (NIST) с заинтересованными сторонами в отрасли по методам управления рисками ИИ, вероятно, сохранятся в той или иной форме, даже если формальные положения указа Байдена об ИИ будут отменены, как предложила команда Трампа.
Фактически, такое «саморегулирование отрасли» станет крылатой фразой для политики ИИ в течение следующих четырех лет, позиционируемой как альтернатива государственным предписаниям. Правда в том, что, хотя есть аргументы против подробных государственных правил, никто не утверждает, что ИИ не предусматривает рисков. И меньше всего сами руководители технологий и руководители ИИ, многие из которых годами предупреждали, что быстрый прогресс в технологиях требует серьезных инициатив по «безопасности ИИ» для предотвращения катастрофического вреда.
И будь то аварии автономных транспортных средств, самоубийства подростков после погружения в разговоры с компаньонами ИИ или преступники, совершающие кражи и мошенничества с использованием технологии deepfake, примеры вреда ИИ продолжают накапливаться. Даже те, кто громче всех утверждает, что такие неудачи не должны отвлекать от многочисленных преимуществ ИИ, не могут отрицать, что они заслуживают ответа.
Вот почему большинство крупных разработчиков ИИ вложили значительные человеческие и технические ресурсы в практику управления и ответственности ИИ. Вот почему такие отраслевые группы, как IAPP (главная торговая ассоциация профессионалов в области конфиденциальности) и Future of Privacy Forum, активно переходят на ИИ и видят в отрасли оживлённый спрос на координацию для определения лучших практик и стандартов.
«Саморегулирование отрасли» станет ключевым словом политики в области ИИ в ближайшие четыре года.
Справедливости ради, как бы ни были ценны механизмы саморегулирования, в конечном счете необходимы регулирующие санкции и установленные правительством правила, по крайней мере, в качестве поддержки. Частные инициативы могут потерпеть неудачу, или некоторые компании могут игнорировать их, создавая нездоровую гонку на дно, если это дает им конкурентное преимущество.
Но мы прошли ту точку, когда альтернативой регулированию является вседозволенный «Дикий Запад» для ИИ.
Такие впечатляющие провалы, как нарушения кибербезопасности или системы ИИ в здравоохранении, убивающие пациентов, выдавая им ложные рекомендации по лечению, могут нанести ущерб репутации всей отрасли. Вот почему Китай, конкурент Америки за превосходство в области ИИ, на самом деле имеет более обширное регулирование ИИ, чем США сегодня. И с принятием ИИ, распространяющимся по всей экономике, сектор ИИ — это не только технологические компании Кремниевой долины. Регулируемые предприятия в таких крупных отраслях, как финансовые услуги, здравоохранение, связь, энергетика, транспорт и оборона, безусловно, будут стремиться ограничить требования правительства, но они понимают ценность управления.
«В целом, есть основания ожидать, что даже если внешние аспекты политики ИИ резко изменятся во второй администрации Трампа, на местах будет значительная преемственность. Организациям было бы разумно сосредоточиться на разработке и внедрении эффективных механизмов управления. Что бы ни случилось в Вашингтоне, следующие четыре года обязательно раскроют как потенциал ИИ, так и его опасности».
*компания Meta (соцсеть Facebook) признана экстремистской и запрещёна в РФ
**НКО, признанное иностранным агентом
Елена Ларина, Владимир Овчинский
24.12.2024 Устранение свидетелей.
Кому может быть выгодно давление на флагман ИИ-пузыря
В своём традиционном предсказании на будущий год британский журнал "Экономист" объявил, что одной из трёх главных движущих сил, наряду с растущей неопределённостью и Дональдом Трампом, станет "технология", под которой подразумевается вездесущий искусственный интеллект. Нет никакой нужды в девятитысячный раз повторять одно и то же про то, что этот интеллект — не интеллект, а простое вылепливание из заранее заданных слагаемых — украденных чужих текстов, рисунков, песен, фотографий или видеороликов — условно новой суммы. Киберпопугайчики, повторяющие услышанное, не понимая его смысла. Куда важнее то, что под этим брендом перемещаются триллионы долларов, новостные сенсации раздуваются до уровня божественных откровений, а капитализации растут до математически невозможных величин. Словом, "здесь вообще всё просто так, кроме денег", — в отрыве от вершащихся где-то во глубине тайных лабораторий настоящих научных прорывов этот хайп является лишь очередным поводом сравнительно честного отъёма денег у населения: такими же в своё время были NFT, любая ерунда на блокчейне и метавселенные. Именно поэтому всю эту возню не стоит рассматривать как нечто большее, чем простые и знакомые методы деловой конкуренции, прорывающиеся время от времени некрасивыми поступками.
Итак, житель Сан-Франциско, этнический индус и бывший сотрудник технологической компании "Опен Эй Ай" Сучир Баладжи 26 ноября был найден мёртвым в своей квартире. Это первый слой истории, на котором почти все пожмут плечами и пойдут дальше. Второй слой не особо глубже: полиция объявила, что имело место самоубийство, а этим летом Сучир стал одним из источников информации для многочисленных исков в отношении своей компании, причём основой претензий было нарушение тех самых авторских прав. Для работы этим переваривателям контента нужен другой контент, поэтому его они берут везде, куда только могут дотянуться, и почти всегда — без разрешения. Кстати, интересно, что последнее время, когда сгенерированный нейросетями контент проник повсюду, уже его берут за основу для обучения другие нейросети, из-за чего получается пятикратно переваренный контент. Об этом и рассказал покойный, причём раскрыл он, судя по тому, что о нём написала "Нью Йорк Таймс" со ссылкой на его адвокатов, далеко не всё. Последние полтора года своей четырёхлетней работы на компанию стоимостью 157 миллиардов долларов (данные на начало октября) Сучир посвятил работе над самой передовой языковой моделью, виртуальным собеседником "Чат Джи Пи Ти" — это его сочинения по Толстому всё чаще проверяют учителя литературы, это его описания читают на сайтах магазинов покупатели, это его тексты идут на растопку печей контента мусорных СМИ. Год назад из "Опен Эй Ай" выгнали её директора и основателя Сэма Альтмана, а потом, после долгих разбирательств с акционерами, вернули, уволив всех ответственных за его увольнение. Принцип работы флагмана пузыря ИИ был очень прост: время от времени выползал какой-нибудь громкий гражданин типа Илона Маска (сооснователя "Опен Эй Ай" и одного из ключевых инвесторов) и говорил что-то в духе "искусственный интеллект — угроза человечеству". Или и вовсе выезжал на своей коляске авторитетный научный учёный и отец всея научпопа Стивен Хокинг (кстати, гость на острове Джеффри Эпштейна) и говорил через свой симулятор речи: "ИИ приведёт человечество к вымиранию… ха, чёрточка, ха, чёрточка, ха".
Их бизнес — имитация высоких технологий, и бизнес идёт хорошо. В "Опен Эй Ай" вложены деньги массы серьёзных контор — вспомните, к примеру, что за те пять дней, что Альтман был в отставке год назад, его и его команду чуть было не переманила к себе "Майкрософт". По мелочам: "Эппл", "Энвидиа", "Сити груп", "Джей Пи Морган Чейз" и прочие "Голдман Сакс". Короче, по списку технологических компаний и вложившихся банков и инвестфондов ясно, что "Опен Эй Ай" — флагманский проект пузыря ИИ. И сквозь эту оптику следует посмотреть на то, с чего мы начали, — на "самоубийство" несчастного индуса в своей квартирке в городе в стиле диско.
Очевидно, что государственные регуляции и давление с позиций защиты авторского права очень беспокоят громадный бизнес, зарабатывающий созданием огромных по масштабу, но простейших по принципу действия бихевиористских систем "стимул — реакция" (в представлении американцев это и есть интеллект). Признаком этого беспокойства служили как многочисленные статьи в проплаченной прессе с тезисами уровня "авторское право тормозит развитие технологий", так и, скажем, вспыхнувший в марте спор между двумя главными нейросетями для генерации изображений, "Мидджорни" и "Стэбилити Эй Ай", — как раз по поводу воровства чужих картинок. Посему позволим себе не согласиться с калифорнийскими коронерами и предположим, что Сучир был убит, причём убит из-за работы осведомителем против интересов "Опен Эй Ай". Кому может быть выгодно давление на флагман ИИ-пузыря, раздувшегося до размеров ВВП стран с передовыми экономиками? Вспомните, чьё усиление сопутствовало победе Трампа на выборах в ноябре. Это те, кого можно назвать "вторыми сыновьями" индустрии информационных технологий. Как при феодальном майорате: старший получает всё, а младший — кота в сапогах и пинок под зад. Эти "вторые сыновья", выходцем из среды которых является, кстати, Джеймс Вэнс, вице-президент Трампа, объединились вокруг упомянутого выше Илона Маска, который активно продвигает свои нейросети — "Икс Эй Ай", а также интегрированный в принадлежащий Маску "Твиттер"* "Грок". Разлад между Маском и компанией компаний, вкладывающихся в ИИ, привёл к его ставке на "вторых сыновей", так что, будучи вхожим в Овальный кабинет и в… (какой там формы кабинет у вице-президента?), он легко сможет продавить нужные ограничения работы вполне определённых контор. Потому-то и понадобилось компании "Опен Эй Ай" избавляться от осведомителя, который очень бы помог Маску. Ничего личного — это просто бизнес.
"Просто бизнесом" является и другая громкая история последних недель — вы наверняка о ней слышали даже среди шума Сирии, Франции или Грузии. 4 декабря на Манхэттене, что в штате Нью-Йорк, был застрелен Брайан Томпсон, директор медицинской страховой компании "Юнайтед Хэлскейр". Убийца носил худи с капюшоном и маской, с места преступления уехал на велосипеде, а в парке неподалёку бросил модный дизайнерский рюкзак — одним словом, хипстер. Лишь на мгновение он снял маску, чтоб пофлиртовать с сотрудницей хостела, где остановился: типично итальянское поведение привело к тому, что лицо попало на камеру. Непонятного чёрно-белого гражданина объявили в розыск, а через пару дней из "Макдональдса" (рус. "Вкусно и точка") в 370 километрах от места убийства позвонили на 911 и сообщили о каком-то подозрительно похожем на разыскиваемого типе. Раз-два — и поймали: убийцей оказался 26-летний итальянец Луиджи Манджоне, чьи образцы ДНК совпали с образцами, найденными на бутылке воды, оставленной на месте убийства, а отпечатки оказались похожими на отпечатки на гильзах, носивших надписи "затягивай", "защищайся", "отказывай" — девиз всех страховщиков. История, что ни говори, красивая с любой точки зрения: с одной позиции сумасшедший левак из богатой семьи (с сетью домов престарелых, загородным клубом и отпрыском в заксобрании штата) застрелил честного бизнесмена, рождённого в рабочей семье и добившегося всего самостоятельно, а с другой — паразит с руками по локоть в крови получил заслуженное возмездие от одной из своих жертв.
Но именно из-за того, что она получилась слишком складной, возникают сомнения. Вся эта тема с Луиджи пованивает несвежим ризотто. Общеизвестен тот факт, что спецслужбы — в Штатах точно, но и в других странах скорее всего — отслеживают экстремистов и радикалов по отзывам на сайтах магазинов, постам в соцсетях и даже истории игр в "Стиме". Луиджи был как раз из таких: в своём отзыве на купленный им на "Амазоне" манифест математика и почтового террориста Унабомбера он писал, что насилие порой бывает необходимо, в "Твиттере" активно лайкал и репостил всякие резкости, а в игровом сервисе отыграл целую одну минуту в любимую игру всех радикалов "Фолаут Нью Вегас" — именно игры и превратили его в жестокого убийцу! Такой человек просто напрашивался на то, чтоб в один прекрасный день ФБР повесила на него пару-тройку случайных убийств уважаемых людей по заказу ещё более уважаемых людей.
Запоминающееся итальянское имя, незаурядная внешность, мотив и полное отсутствие сочувствия со стороны общества по отношению к жертве — готовый сюжет не только намекает на то, что что-то здесь не так, но и напоминает, что настоящим радикалам следует прятать свои убеждения от машин тотальной слежки в каждом кармане. Так зачем же кому-то понадобилось доставать из закромов родины карманного радикала? Если нырять в болото предположений, то сюжет вырисовывается следующий: в августе кто-то ломанул базу данных "Юнайтед Хэлскейр", из-за чего утекла информация чуть ли не на половину населения США. Громкий взлом надо было расследовать, и буквально за пару часов до того, как было объявлено, что расследованием займётся компания "Пало Альто" — гигант кибербезопасности, "кто-то" купил кучу акций этой компании. Этим кем-то была настоящая глыба инсайдерской торговли из Вашингтона по имени Нэнси Пелоси. Вы можете её помнить по тому, как в период президентства Трампа она была третьим лицом США и руководила Конгрессом, как она летала на Тайвань в обход последних китайских предупреждений, как она вводила жёсткие ковидные карантины, но сама ездила в парикмахерскую, ну и как она играла на бирже, пользуясь закрытой информацией со слушаний в Конгрессе и слухами из вашингтонских коридоров. Это, строго говоря, незаконно, да только кто ж спросит уважаемого человека, откуда у него, честного госслужащего, взялось 114 миллионов долларов состояния? Последние недели — как раз после возвращения Трампа, имеющего к организовавшей "мятеж 6 января" старухе вполне конкретные счёты, — тучи над Нэнси сгустились. Ей принялись припоминать всё и как раз на начало декабря назначили первые слушания по какому-то вроде бы не очень связанному с ней делу об инсайдерской торговле. По неподтверждённым сведениям, на этих слушаниях должны были… слушать как раз гражданина Томпсона, на которого так невовремя решил поохотиться итальянский мажор с пульсирующим классовым сознанием. Нэнси сказалась больной — дескать, упала в Люксембурге и сломала бедро, — поэтому с публичных глаз исчезла и вроде бы старается держаться подальше от США, где-то там, откуда выдачи нет. В общем, если присматриваться, то здесь тоже нет ни следа от нарисованной прессой красивой истории о классовой мести или об обескровившем нацию паразите — здесь тоже просто бизнес.
*доступ к сайту ограничен на территории России.
Илья Титов
https://zavtra.ru/blogs/ustranenie_svidetelej
11.12.2024 В чьих руках ядерная кнопка?
Искусственный или человеческий интеллект?
Оборонные технологические компании США создают консорциум, ориентированный на ИИ
Palantir и Anduril, две ведущие компании в сфере оборонных технологий, 7 декабря 2024 года объявили о создании отраслевого консорциума для устранения препятствий, которые, по их мнению, мешают Министерству обороны США принять ИИ.
«Наша цель — предоставить технологическую инфраструктуру, от периферии до предприятия, которая позволит нашему правительству и отраслевым партнерам трансформировать ведущие мировые достижения Америки в области искусственного интеллекта в военные и национальные возможности безопасности следующего поколения», — заявили компании в пятницу в совместном обращении.
Обе фирмы являются ключевыми игроками в экосистеме искусственного интеллекта и программного обеспечения Пентагона. Palantir создает платформы для анализа и обработки данных, а Anduril разрабатывает ряд современных аппаратных и программных систем, в значительной степени ориентированных на автономность и искусственный интеллект.
Компании работают вместе над программой создания армейской системы доступа к тактической разведке и наведения. Эта система будет использовать искусственный интеллект для интеграции и наведения. Ожидается, что система будет введена в эксплуатацию в течение ближайших двух лет.
Palantir также предоставляет базовое программное обеспечение для платформы данных армии, которая помогает руководителям всех подразделений получать полную информацию и быстро принимать решения (контракт был заключён в 2017 году). Армия использует Palantir для обеспечения готовности подразделений, управления боевой мощью, логистикой и установками, а также для вербовки.
Тем временем Anduril поставляет оборудование и программное обеспечение для инициативы Пентагона Replicator, целью которой является развертывание тысяч небольших сетевых беспилотников к августу 2025 года.
В рамках нового партнерства компании будут развивать существующие линейки продуктов, включая платформу искусственного интеллекта Palantir, AIP, и Menace от Anduril — программно-определяемую систему управления и контроля.
Цель состоит в том, чтобы решить две ключевые проблемы, которые, по их мнению, препятствуют внедрению ИИ в вооруженных силах США: готовность данных и отсутствие безопасного канала для масштабирования отраслевых моделей ИИ.
Для решения второй задачи команда хочет воспользоваться AIP, чтобы предоставить возможность облачного управления данными и обеспечить доступ ИИ ко всей информации разных уровней секретности. Они также планируют объединить интеллектуальную систему Maven от Palantir с программным обеспечением Lattice от Anduril, чтобы обеспечить «бесперебойную операционную возможность» для разработки и внедрения новых инструментов ИИ на оборонном предприятии.
«Эта платформа уже внедрена и используется компаниями Anduril и Palantir для их собственных корпоративных целей, а также в рамках государственных контрактов, что позволяет начать эту работу немедленно», — заявили компании. Планируется в конечном итоге расширить партнерство и включить в него больше фирм.
Новости о консорциуме появились на фоне объявлений о нескольких других отраслевых сотрудничествах с участием двух компаний. Anduril заявила на прошлой неделе, что объединится с создателем ChatGPT OpenAI для использования алгоритмов ИИ в целях улучшения возможностей военных по борьбе с дронами.
В свою очередь Palantir объявила 7 декабря 2024 года, что объединяет усилия с Booz Allen Hamilton для продвижения оборонных инноваций среди союзников США. Это партнерство фокусируется на модернизации оборонной инфраструктуры и использовании инструментов, ориентированных на данные, для улучшения сотрудничества между странами-партнерами.
Поддержание технологической конкуренции
Тем временем в начале декабря 2024 года два сенатора США представили законопроект, призывающий Министерство обороны США ввести ограничения для поддержания конкуренции за крупные программы разработки технологий.
Законопроект, предложенный сенатором Элизабет Уоррен (демократ от Массачусетса) и сенатором Эриком Шмиттом (республиканец от Миссури), нацелен на программы Министерства обороны США в области искусственного интеллекта и облачных вычислений, портфели которых, по их словам, преимущественно сосредоточены в руках нескольких компаний из Кремниевой долины.
«Сейчас все наши яйца в одной гигантской корзине Кремниевой долины. Это не только душит инновации, но и обходится дороже, и это серьезно увеличивает наши риски безопасности», — заявила Уоррен в своем заявлении. «Наш новый законопроект гарантирует, что по мере того, как Министерство обороны будет расширять использование инструментов ИИ и облачных вычислений, оно будет заключать выгодные сделки, которые сохранят нашу информацию в безопасности, а наше правительство — устойчивым».
Конкретные положения законопроекта включают требование к Министерству обороны проводить открытый конкурс для любых программ в области искусственного интеллекта или интеграции данных с годовыми контрактами на сумму не менее 50 миллионов долларов.
В документе также содержится поручение Главному управлению по цифровым технологиям и искусственному интеллекту Пентагона обеспечить безопасность и защиту любых правительственных данных, используемых для создания или эксплуатации военных инструментов с применением искусственного интеллекта, особенно если они хранятся вместе с данными поставщиков.
ИИ и ядерное оружие
16 ноября 2024 года лидеры США и Китая встретились на полях саммита Азиатско-Тихоокеанского экономического сотрудничества в Лиме (Перу), совместно подтвердив «необходимость сохранения контроля человека над решением о применении ядерного оружия». Эта декларация перекликается с совместным документом, представленным Францией, Великобританией и Соединенными Штатами в ходе процесса рассмотрения Договора о нераспространении ядерного оружия в 2022 году.
Элис Салтини и Ян Лян Пан (Центр нераспространения Джеймса Мартина, США) в статье на аналитической платформе War on the Rocks «Управление рисками, связанными с ИИ в системах командования и контроля в атомной энергетике» (06.12.2024) пишут:
«В связи с тем, что страны все чаще отдают приоритет применению ИИ в военных целях, интеграция ИИ в системы ядерного оружия становится вполне возможной, особенно по мере модернизации ядерных арсеналов. В то время как некоторые государства, обладающие ядерным оружием, подчеркивают важность надзора и контроля со стороны человека над решениями о применении ядерного оружия, еще слишком рано радоваться победе. Чтобы избежать развития событий по сценарию «Скайнет», когда ИИ получает полный контроль над ядерным оружием (имеется ввиду американский фантастический фильм «Терминатор. Восстание машин» - Е.Л., В.О.), необходимо снизить риск случайных запусков ядерных ракет.
Искусственный интеллект обещает повысить производительность и возможности систем ядерного командования, управления и связи, которые составляют основу принятия решений в ядерной области. Однако, если такая интеграция будет осуществляться поспешно и без адекватной оценки рисков, гарантий и резервирования, она может резко увеличить шанс непреднамеренной ядерной эскалации. Риски эскалации могут возникать из-за изменения динамики принятия решений, высокой скорости обработки данных, которая опережает контроль со стороны человека, или коварных ошибок, которые могут незаметно распространяться по сложным системам — независимо от того, остаются ли люди в цикле принятия решений.
Чтобы предотвратить ядерную катастрофу и обеспечить ответственное использование ИИ в ядерном командовании и управлении, государства должны выйти за рамки простых предписывающих обязательств по надзору со стороны человека.
Снижение риска непреднамеренной ядерной эскалации требует структуры управления, которая устанавливает количественный порог для максимально приемлемой вероятности случайного ядерного запуска в качестве единого критерия безопасности.
Из регулирования безопасности использования ядерной энергетики в гражданских секторах можно извлечь ценные уроки, в частности, из того, что регулирующие органы называют подходом к управлению безопасностью, основанным на «учете рисков» и «результативности». Применение этих принципов к ядерным системам командования и управления требует выхода за рамки упрощенного предписания «человек в контуре» и сосредоточения внимания на оценке показателей безопасности системы. Цель состоит в том, чтобы оценить количественную вероятность случайного запуска ядерного топлива с определенной конфигурацией подсистем с ИИ и без него и обеспечить, чтобы эта вероятность оставалась надежно ниже приемлемого порога.
Влияние ИИ на ядерные риски
Оценить, как ИИ может повлиять на ядерную сферу и способствовать непреднамеренной эскалации, — непростая задача. Нынешнее ограниченное понимание поведения моделей ИИ, их быстрое и непредсказуемое развитие, а также сложность и непрозрачность ядерных систем и подсистем, которые используются в процессе принятия решений, делают эту дискуссию в значительной степени спекулятивной. Тем не менее, можно предположить, что государства рассмотрят возможность применения ИИ в рамках масштабной модернизации устаревших ядерных арсеналов, основываясь на текущей ядерной ситуации и стремлении получить стратегическое превосходство.
Например, генерал Энтони Коттон, Глава Стратегического командования ВС США, указал на потенциал ИИ для автоматизации сбора данных, оптимизации обработки и ускорения обмена данными с союзниками. Аналогичным образом, в официальных заявлениях и документах других ядерных держав ИИ часто изображается как инструмент, помогающий руководителям, принимать более быстрые и обоснованные решения за пределами ядерной сферы.
В принципе, способность ИИ анализировать огромные объемы данных из различных источников хорошо подходит для быстрого выявления угроз, , автоматизации идентификации объектов и оценки потенциальных вариантов действий. Тем не менее, ИИ несет в себе ряд существенных рисков из-за ограничений, присущих современным передовым его моделям.
Во-первых, ИИ ненадежен. Современный искусственный интеллект может уверенно генерировать ложную информацию, которая может привести к ошибочным прогнозам и рекомендациям, что в конечном итоге исказит процесс принятия решений. Это явление называется «галлюцинациями». Примерами могут служить большая языковая модель, генерирующая неверные факты об исторических событиях, или модель зрения, «видящая» объекты, которых нет.
Во-вторых, непрозрачность систем ИИ, известная как проблема «черного ящика», затрудняет полное понимание того, как система ИИ приходит к своим выводам. Такое отсутствие прозрачности подрывает доверие и снижает полезность ИИ в условиях с высокими ставками, таких как принятие решений в ядерной энергетике, где прозрачность имеет решающее значение.
В-третьих, системы ИИ подвержены кибератакам, что создает возможности для противников скомпрометировать целостность систем ядерного командования и управления.
В - четвертых, Современные модели искусственного интеллекта стараются сопоставить свои результаты с человеческими ценностями и целями, но иногда могут отклоняться от них. Напряженная обстановка при принятии решений в ядерной энергетике в сочетании с ограниченным временем реагирования усугубляет эти опасности, поскольку решения могут основываться на неточной, непрозрачной, скомпрометированной или несогласованной информации.
Несмотря на заявления некоторых ядерных держав о сохранении человеческого контроля над принятием решений в ядерной области, не все из них открыто взяли на себя обязательство сделать это, оставляя место для серьезных последствий из-за недоразумений или неправильного толкования намерений стран. Но даже если бы все ядерные государства сделали аналогичные заявления, нет простого способа проверить выполнение этих обязательств. Более того, взаимодействие человека и машины само по себе может быть сопряжено с серьезными рисками. Операторы могут чрезмерно доверять системе ИИ, полагаясь на ее результаты без достаточного контроля, или они могут полностью не доверять ей, не решаясь действовать, когда скорость имеет решающее значение. Обе ситуации могут исказить процессы принятия решений, даже если системы ИИ функционируют должным образом.
Еще больше усугубляет эти риски неопределенность, связанная с будущими достижениями ИИ. Хотя текущие ограничения в конечном счете могут быть устранены, также могут возникнуть новые риски, которые остаются непредсказуемыми на данном этапе.
Прецедент регулирования гражданской ядерной безопасности
Несмотря на то, что риски, связанные с интегрированным ИИ в командование и управление, могут показаться новыми, управление ядерными рисками с серьезными последствиями для здоровья и безопасности населения не является новой проблемой для правительств. Действительно, принципы регулирования, которые используются в гражданской ядерной безопасности для оценки рисков и результатов, могут быть с пользой применены к взаимосвязи ИИ и ядерного командования и управления.
В Соединенных Штатах процесс «информирования о рисках» регулирования ядерной безопасности начался в 1975 году с Исследования безопасности реакторов. Таким образом, были количественно оценены риски аварий и радиоактивных выбросов, связанных с производством ядерной энергии, с использованием методов вероятностной оценки рисков. Проще говоря, эти методы отображают различные последовательности каскадных событий, включая системные сбои, которые в конечном итоге могут привести к аварии, что позволяет количественно оценить вероятности различных последствий.
До количественной оценки рисков регулирование основывалось в основном на предписывающих и детерминированных требованиях. Например, регулирующие органы предписывают несколько резервных функций безопасности для предотвращения определенных прогнозируемых аварий без явного учета вероятности какой-либо конкретной последовательности аварий. После аварии на АЭС «Три-Майл-Айленд» в 1979 году (потеря охлаждения ядерного топлива, в результате чего произошло расплавление 50% активной зоны реактора – Е.Л., В.О.). Комиссия по ядерному регулированию расширила свои исследования, включив в них более широкое применение методов вероятностной оценки рисков. В результате расследования аварии были предложены рекомендации, которые привели к политическому заявлению 1995 года и последующим планам по информированию о правилах безопасности и оценке рисков.
В то же время промышленность выступала за более широкое использование регулирования, основанного на производительности, что предоставляло лицензиатам больше гибкости в определении способов достижения определённых целей безопасности. Вместо определения того, какие функции безопасности должны быть интегрированы в конструкцию реактора, нормативные требования, основанные на характеристиках, просто устанавливают количественно измеримый результат безопасности. В своем публичном сообщении Комиссия по ядерному регулированию иллюстрирует свой подход, основанный на производительности, на примере прыжков с парашютом. В этом случае регулирующий орган установит «требование к производительности», согласно которому «парашют должен раскрываться на высоте выше 5000 футов», не уточняя, должен ли этот результат быть обеспечен с помощью разрывного шнура или автоматического устройства активации.
Руководствуясь качественной целью безопасности, согласно которой эксплуатация атомной электростанции не должна вносить существенный вклад в индивидуальные и общественные риски, к 1986 году Комиссия по ядерному регулированию определила измеримый контрольный показатель, согласно которому «общая средняя частота крупных выбросов радиоактивных материалов в окружающую среду в результате аварии реактора должна составлять менее 1 на 1 000 000 в год эксплуатации реактора». С тех пор этот эталон был усовершенствован в более операционизируемые стандарты.
В последние годы, по мере появления разнообразных и новых концепций реакторов, стало ясно, что многие функции безопасности, предписанные для традиционных реакторов, больше не применимы. Поэтому регулирующие органы уделяют приоритетное внимание разработке технологически нейтральных правил, обеспечивающих большую гибкость в том, как конструкции реакторов могут соответствовать критериям безопасности.
Как признал генерал Коттон: «Нам необходимо направить исследовательские усилия на понимание рисков каскадных эффектов моделей ИИ, возникающих и неожиданных моделей поведения, а также косвенной интеграции ИИ в процессы принятия решений в ядерной сфере». Действительно, быстрое развитие ИИ опережает исследовательские усилия, оставляя значительные пробелы в нашем понимании того, как интегрированные функции ИИ, поддерживающие принятие решений в ядерной области, могут непреднамеренно привести к эскалации.
Продолжающиеся многосторонние дискуссии об ответственной интеграции ИИ в военную сферу еще не определили, что представляет собой «безопасная» интеграция ИИ в ядерное командование и управление и смежные системы, особенно с учетом серьезных последствий, которые может вызвать даже одна ошибка. Ситуация осложняется тем, что государства, обладающие ядерным оружием, скорее всего, будут интегрировать ИИ различными способами, руководствуясь своими уникальными доктринами, возможностями и восприятием угроз.
Поэтому крайне важно установить поддающиеся количественной оценке пороговые значения риска для интеграции ИИ. Системы оценки рисков могут помочь директивным органам различать приложения ИИ с высоким уровнем риска и приемлемые. Чтобы гарантировать, что риски непреднамеренной эскалации не превышают установленных пороговых значений, они будут анализировать, как конкретные модели ИИ взаимодействуют с ядерным командованием, системами управления и смежными системами, и выявлять каскадные точки отказа, а также их потенциальные последствия.
Именно здесь регулирование гражданской ядерной безопасности может послужить полезным уроком. Регулирование рисков искусственного интеллекта в системе управления ядерной энергетикой должно включать вероятностные методы оценки рисков и использование контрольных показателей, основанных на эффективности, а не на предписаниях. Эффективность в этом контексте означает надежность систем ИИ, их способность выдавать точные и согласованные результаты, а также эффективность защиты системы. Вероятностные методы оценки рисков необходимы, потому что системы «черного ящика» по своей природе устойчивы к детерминированному анализу неисправностей, а сложные последовательности аварий требуют систематической количественной оценки рисков.
Кроме того, технологически нейтральное управление безопасностью требует подхода, основанного на оценке рисков и производительности. Вероятностная оценка рисков должна принимать во внимание технологии, а двусторонние и многосторонние соглашения в области безопасности должны применяться к различным технологиям, учитывая разные способы, с помощью которых государства интегрируют ИИ в свои системы управления и контроля.
Более того, быстрое развитие систем ИИ приведет к появлению новых режимов отказа, с которыми не всегда смогут справиться предписывающие ограждения. Таким образом, вместо жестких предписаний, которые в любом случае было бы чрезвычайно трудно проверить с помощью такой неосязаемой технологии, как ИИ, гораздо практичнее, чтобы страны договорились о наборе широких целей в области безопасности. Страны могли бы взять на себя, например, обязательство по достижению всеобъемлющей цели безопасности, согласно которой системы искусственного интеллекта, интегрированные в систему командования и управления в ядерной области, не должны увеличивать риск применения ядерного оружия, и на этой основе разработать измеримые цели в области безопасности, такие как снижение риска случайного запуска ядерного оружия на уровне 1 к 10 000 000 в год. Также можно было бы использовать методы вероятностной оценки рисков для оценки того, будет ли конкретная конфигурация систем с искусственным интеллектом (или без него) соответствовать этим целям.
Когда речь идет о системах искусственного интеллекта, оценка рисков учитывает как технологические риски, так и интеграционные риски. Технологические риски связаны с надежностью, прозрачностью и производительностью модели. Риски интеграции сосредоточены на том, как и где используется ИИ — от задач с низкими ставками, таких как повышение эффективности коммуникации, до функций с высокими ставками, таких как формулирование рекомендаций по забастовке. Конструкция и встроенная избыточность системы также являются решающими факторами при оценке.
Предписывающие обязательства, такие как принцип «человек в контуре» или исключение некоторых типов передовых систем ИИ, могут показаться категоричными, но они не являются технологически нейтральными и не гарантируют снижения риска случайного применения ядерного оружия ниже поддающегося количественной оценке порога. Более того, они создают ложное чувство безопасности и иллюзию того, что обладатели ядерного оружия могут выполнить свои обязательства по снижению риска, следуя набору предписаний, которые не меняются со временем и не гарантируют удержания рисков аварий ниже определенного порядка.
Конечно, объективные критерии эффективности не всегда могут быть определены, поэтому гражданские регулирующие органы ядерной безопасности сохранили некоторые предписывающие требования. Вероятностные методы оценки рисков также имеют свои ограничения, особенно в оценке вклада в риск со стороны человеческих, организационных факторов и факторов культуры безопасности. Таким образом, даже несмотря на то, что Комиссия по ядерному регулированию США работает над обоснованием рисков в своих правилах безопасности, она сохраняет свою приверженность принципу глубокоэшелонированной защиты, который относится к практике наложения избыточных систем безопасности, которые вряд ли выйдут из строя одновременно. Аналогичный принцип должен применяться в контексте ИИ и ядерного командования и управления, но так, чтобы учитывать понимание рисков. Уроки, извлеченные из ранних правил гражданской ядерной безопасности, которые опирались исключительно на резервные системы безопасности, показали, что подход к глубокоэшелонированной защите сам по себе является неоптимальным.
В конечном счете, ответственность за предотвращение случайной или непреднамеренной эскалации лежит на обладателях ядерного оружия, независимо от того, полагаются ли их системы командования и управления на дискеты или передовой искусственный интеллект.».
Новый путь к сверхразуму
В начале декабря 2024 года OpenAI запустила то, что ее генеральный директор Сэм Альтман назвал «самой умной моделью в мире» — программу генеративного ИИ, возможности которой, как предполагается, намного больше, чем у любого подобного программного обеспечения до нее.
Эксперты The Atlantic в статье «Эра GPT уже заканчивается» (06.12.2024) пишут, что «стартап готовился к этому моменту с 12 сентября 2024 года, дня, который, по словам OpenAI, направил мир на новый путь к сверхразуму.
Именно тогда компания представила ранние версии серии моделей ИИ, известных как o1, созданных с использованием новых методов, которые, по мнению стартапа, выведут его программы на невиданные высоты».
Марк Чен, тогдашний вице-президент OpenAI по исследованиям, рассказал The Atlantic несколько дней спустя, что o1 принципиально отличается от стандартного ChatGPT, поскольку он может «рассуждать», что является отличительной чертой человеческого интеллекта. По состоянию на 5 декабря 2024 года стартап выпустил первую полную версию o1 с полностью развитыми способностями к рассуждению для общественности.
Новые модели рассуждений OpenAI демонстрируют значительное улучшение по сравнению с другими программами во всех видах кодирования, математики и научных задач, заслужив похвалу генетиков, физиков, экономистов и других экспертов.
Согласно расследованиям The Information , Bloomberg , TechCrunch и Reuters, крупные компании ИИ, включая OpenAI, Google и Anthropic, обнаруживают, что технический подход, который двигал всю революцию ИИ, достигает предела. Сообщается, что модели предсказания слов, такие как GPT-4o, больше не становятся надежно более способными, даже более «умными» с размером. У этих фирм могут заканчиваться высококачественные данные для обучения своих моделей, и даже при достаточном количестве программы настолько огромны, что увеличение их размера больше не делает их намного умнее. o1 — первая крупная попытка отрасли преодолеть это препятствие.
Марк Чен после дебюта o1 в сентябре сказал, что программы на основе GPT имеют «основной пробел, который мы пытаемся устранить». В то время как предыдущие модели были обучены «очень хорошо предсказывать то, что люди записали в прошлом», o1 отличается. «Мы обучаем «мышление» не через имитационное обучение», — сказал он. Модель рассуждения «не обучена предсказывать человеческие мысли», а производит или, по крайней мере, имитирует «мысли сама по себе». Из этого следует, что поскольку люди не являются машинами для предугадывания слов, то и программы ИИ не могут оставаться таковыми, если они надеются улучшиться.
«Вот еще один способ размышления о различии между языковыми моделями и моделями рассуждений: попытка OpenAI создать сверхразум определяется «попугаями» и «крысами».
ChatGPT и другие подобные продукты — стохастические попугаи — предназначены для поиска закономерностей среди огромных объемов данных, для связывания слов, объектов и идей.
o1 — это бегущий по лабиринту грызун, предназначенный для навигации по этим статистическим моделям мира для решения проблем.
Или, если использовать шахматную аналогию: вы можете играть в игру, основанную на наборе ходов, которые вы запомнили, но это отличается от подлинного понимания стратегии и реагирования на вашего противника. Языковые модели изучают грамматику, возможно, даже что-то о мире, в то время как модели рассуждений стремятся использовать эту грамматику».
OpenAI смотрит в будущее. Модели рассуждений «исследуют различные гипотезы, как это сделал бы человек», — сказал Чен. Благодаря рассуждениям o1 также лучше понимает и отвечает на вопросы об изображениях, сказал он, и полная версия o1 теперь принимает мультимодальные входные данные. Новые модели рассуждений решают проблемы «почти как это сделал бы человек», — писал OpenAI в сентябре 2024 года. И если масштабирование больших языковых моделей действительно упирается в стену, этот тип рассуждений, похоже, является тем местом, куда многие конкуренты OpenAI также обратятся в следующий раз.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/v_ch_ih_rukah_yadernaya_knopka
28.11.2024 ИИ наступает, возможности и риски нарастают
О наиболее острых вопросах технологии N 1, обсуждавшихся в 2024 году
Как ИИ изменит физический мир
Особенно глубокие изменения произойдут в энергетике, производстве и медицине, считает Рэй Курцвейл (известный ученый в области информатики, изобретатель и автор книг, в том числе «Век разумных машин» (1990), «Век духовных машин» (1999), «Сингулярность близка» (2005). Его новая книга «Сингулярность ближе: когда мы сливаемся с искусственным интеллектом» опубликована в июне 2024 г.).
В статье в журнале «Экономист» (17.06.2024) он пишет: «К тому времени, когда дети, родившиеся сегодня, будут ходить в детский сад, искусственный интеллект (ИИ), вероятно, превзойдет человека во всех когнитивных задачах, от науки до творчества. Когда в 1999 году я впервые предсказал, что к 2029 году у нас будет такой общий искусственный интеллект (AGI), большинство экспертов подумали, что я переключился на написание художественной литературы. Но после впечатляющих прорывов последних нескольких лет многие эксперты считают, что мы получим AGI еще раньше, так что технически я превратился из оптимиста в пессимиста, нисколько не изменив своего прогноза.
Проработав в этой области 61 год — дольше, чем кто-либо другой из ныне живущих, — я рад видеть, что ИИ находится в центре глобального диалога. Тем не менее, большинство комментариев упускают из виду, как большие языковые модели, такие как ChatGPT и Gemini, вписываются в еще большую историю. Искусственный интеллект вот-вот совершит скачок от революции только в цифровом мире к преобразованию физического мира. Это принесет бесчисленные выгоды, но три области имеют особенно глубокие последствия: энергетика, производство и медицина».
«Почему солнечная энергия до сих пор не доминирует?
Проблема заключается в следующем: фотоэлектрические материалы дорогие и неэффективные, что мешает их использованию вместо угля и газа. Кроме того, солнечная генерация зависит от времени суток и года, поэтому нужно много энергии для хранения. Сегодняшние аккумуляторы недостаточно экономичны. Хотя законы физики предполагают возможность улучшений, химические возможности для исследований ограничены, поэтому прогресс идёт медленно.
Искусственный интеллект способен быстро анализировать миллиарды химических соединений и стимулировать инновации в области фотоэлектрических устройств и аккумуляторов. Как только AGI найдет полностью оптимальные материалы, фотоэлектрические мегапроекты станут жизнеспособными, а солнечная энергия станет настолько высокой, что станет практически бесплатной».
«Энергетическое изобилие делает возможной еще одну революцию: в производстве.
После дешевой и обильной солнечной энергии следующим компонентом является человеческий труд, который зачастую может быть изнурительным и опасным. ИИ делает большие шаги в робототехнике, что может значительно снизить затраты на рабочую силу. Робототехника снижает стоимость добычи сырья, а искусственный интеллект помогает заменить редкие элементы более распространёнными, такими как цирконий, кремний и углеродный графен. В результате многие товары станут доступнее и дешевле.
«По мере того, как мы создаем титанические вычислительные мощности, необходимые для моделирования биологии, мы открываем третью физическую революцию ИИ: в медицине. Несмотря на 200 лет значительного прогресса, наше понимание человеческого тела по-прежнему построено на беспорядочных приближениях, которые обычно в основном верны для большинства пациентов, но, вероятно, не совсем подходят для вас. Десятки тысяч американцев в год умирают от реакций на лекарства, которые, согласно исследованиям, должны им помочь.
Летом 2023 года первый препарат, разработанный ИИ, вступил во вторую фазу испытаний для лечения одного из заболеваний легких. Десятки других препаратов, разработанных с помощью искусственного интеллекта, в настоящее время проходят испытания.
Как процесс разработки лекарств, так и процесс испытаний будут ускорены по мере того, как моделирование будет включать в себя гораздо более обширные данные, которые делает возможным ИИ. Чтобы точно смоделировать сложные системы, потребуется провести множество дополнительных исследований в лабораториях, но общая картина ясна. Затем искусственный интеллект займётся моделированием белковых комплексов, органоидов, клеток, тканей, органов и, наконец, всего тела.
В конечном итоге использование ИИ заменит сегодняшние клинические испытания, которые являются дорогостоящими, рискованными, медленными и статистически недостаточно мощными.
Цифровые исследования позволят нам адаптировать лекарства к каждому отдельному пациенту. Сегодня научный прогресс дает среднестатистическому жителю дополнительные шесть-семь недель ожидаемой продолжительности жизни каждый год. Когда AGI даст нам полное господство над клеточной биологией, эти достижения резко ускорятся. Как только ежегодное увеличение продолжительности жизни достигнет 12 месяцев, мы достигнем «скорости убегания от долголетия». Кроме того, благодаря экспоненциальному улучшению соотношения цены и производительности в вычислительной технике, методы лечения на основе ИИ, которые поначалу были дорогими, быстро станут широко доступными».
ИИ может сделать транспорт более безопасным и эффективным
Чтобы поддержать будущий искусственный интеллект в транспорте, команда исследователей во главе с Абхиджитом Саркаром из Технологического транспортного института Вирджинии (VTTI) написала отчет, опубликованный Национальными академиями наук, инженерии и медицины (коллективная научная национальная академия США). В отчете исследуются преимущества и внедрение ИИ в департаментах транспорта (DOT) на государственном и местном уровнях, а также представлен набор руководящих принципов и программ исследований. Об этом сообщает Virginia Tech (22.11.2024).
«ИИ и машинное обучение — это захватывающие области. Люди задумываются о том, как можно повысить эффективность и безопасность транспортной сферы», — сказал Сид Мохан, Заместитель руководителя программы по внедрению и инновациям в Совете по транспортным исследованиям, подразделении Национальных академий. «Все должно с чего-то начинаться, и этот проект может подготовить почву для чего-то большого в интеграции искусственного интеллекта в DOT».
В отчете определены 11 исследовательских проблем, которые могут служить руководством для департаментов по внедрению ИИ в свои системы. К каждому заявлению прилагается список действий, предлагаемый бюджет и график для обеспечения беспрепятственной реализации.
«Сейчас идеальное время, чтобы воспользоваться возможностями искусственного интеллекта и применить их на благо нашего общества, повысить безопасность дорожного движения и эффективность перевозок, а также сократить количество аварий и спасти жизни людей в глобальном масштабе», — сказал Саркар, руководитель группы компьютерного зрения и машинного обучения в VTTI.
Выводы являются результатом всестороннего обзора литературы из более чем 65 000 статей, дополненного интервью с экспертами и информацией, полученной в ходе семинаров. В общей сложности было опрошено 29 человек из восьми департаментов транспорта штата, и в общей сложности 56 человек из государственных и местных департаментов приняли участие в двух семинарах.
«Цель состояла в том, чтобы разработать программу исследований, связанных с использованием ИИ», — сказал Мэтт Кэмден, старший научный сотрудник VTTI. «Однако мы не те, кто находится в поле. Поэтому для нас было крайне важно собирать данные и общаться с людьми, которые ежедневно используют эти технологии».
Исследования показали, что власти хотят интегрирговать ИИ в управление дорожным движением, обеспечение безопасности, развитие транспортной инфраструктуры и мультимодальных перевозок. Тем не менее, согласно отчету, существует общее непонимание технологий и нехватка опытной рабочей силы.
«Большинство транспортных департаментов изо всех сил пытаются эффективно интегрировать ИИ в свою сеть и рабочий процесс», — сказал Саркар. «С помощью этого проекта мы надеемся предоставить им отправную точку».
Конференция в Стэнфорде изучает образовательные технологии в эпоху ИИ
«Мы стремимся к тому, чтобы студенты успешно развивались на протяжении всей жизни, и хотим, чтобы они получили образование, способствующее этому развитию», — сказала профессор Сюзанна Лёб на открытии саммита Accelerate Edtech Impact 2024 в Стэнфорде. «Мы хотим этого не только для студентов из обеспеченных семей; мы хотим этого не только для студентов, которые мотивированы и вовлечены в учебу прямо сейчас... мы действительно должны думать о широком спектре студентов». Об этом рассказывает Stanford Accelerator for Learning (22.11.2024).
В центре внимания второго ежегодного саммита, проведённого Stanford Accelerator for Learning, оказался студенческий опыт. Четыре учащихся — от старшеклассника до аспиранта — рассказали о влиянии ИИ на процесс обучения. До этого восемь студентов Стэнфорда продемонстрировали собственные проекты в сфере образовательных технологий (EdTech).
На встрече собрались 400 лидеров Еdtech, исследователей, спонсоров, преподавателей и студентов. 10 сессий, от панелей до интерактивных семинаров, продемонстрировали эффективное использование Еdtech, рассмотрели роль исследований и предоставили возможность ключевым игрокам пообщаться друг с другом.
Основные выводы саммита заключаются в следующем:
- Успешные образовательные технологии дают учителям возможность играть ведущую роль при поддержке администрации школы и района.
- Участники дискуссий акцентировали внимание на том, что самые эффективные образовательные технологии не усложняют работу учителей, а расширяют их возможности.
- Руководители технических отделов отметили, что если предоставить учителям доступ к инструментам и пространство для экспериментов, они часто находят лучшее применение технологиям, чем ожидалось.
Лейн Дилг, Руководитель стратегических инициатив OpenAI, один из создателей ChatGPT, сказал, что учителя найдут оптимальные способы применения программы с искусственным интеллектом, и при грамотном подходе увидят потенциал этого инструмента для улучшения качества своего труда. «Мы надеемся, что наши модели… будут максимально полезны и востребованы для преподавания и обучения». Инструменты ИИ должны выполнять больше, чем решать утомительные задачи — они могут помочь улучшить преподавание.
С момента запуска ChatGPT специалисты по образовательным технологиям изучали способы, с помощью которых он может помочь сократить трудозатраты людей, помогая им выполнять повторяющиеся и трудоемкие задачи, такие как выставление оценок, создание расписаний или контроль посещаемости, что позволяет учителям сосредоточить свое время и силы на своих учениках и экономит деньги и кадровые ресурсы школ.
Однако темой, которая возникла на сессиях, была возможность ИИ дополнить и улучшить практику преподавания. Имея огромный объем доступных для сбора данных об учащихся, ИИ может проанализировать их, чтобы предоставить полезную информацию учителям, ученикам и родителям.
Подобные процессы должны включать в себя:
- предоставление ученикам быстрой обратной связи о качестве их письменных работ перед сдачей учителю;
- адаптацию учебного процесса под индивидуальные потребности учеников;
- использование видеокамер, компьютерного зрения и датчиков для сбора информации о взаимодействии учеников и преподавателей и выявления закономерностей.
С появлением новых инструментов индустрия оценки также развивается. Люди «бросают вызов понятию традиционного стандартизированного теста», — сказал Амит Севак, Генеральный директор Службы образовательного тестирования (ETS), известной созданием и проведением таких оценок, как TOEFL, GRE и Praxis. ETS развивает свой бизнес, фокусируясь на индивидуальных оценках, а не на стандартных тестах. Эти оценки измеряют эффективность, а не только знания, и направлены на определение навыков, необходимых в XXI веке. Работа компании заключается в расширении технологий и методов оценки.
Широко распространено мнение, что Еdtech должен быть основан на фактических данных, но новые инструменты разрабатываются быстрее, чем традиционные рецензируемые исследования. Исследователи, технологи и спонсоры размышляли о том, как обеспечить, чтобы новейшие идеи информировали новейшие решения.
Вот несколько идей:
- увеличить финансирование и создать инфраструктуру для исследований и разработок в области образовательных технологий, чтобы они могли идти в ногу с развитием технологий и быть надёжными;
- изучить систему мотивации частных компаний в сфере образовательных технологий, чтобы понять, как использовать исследования и разработки;
- изучить научные основы обучения и когнитивного развития, чтобы применять эти знания при создании образовательных технологий;
- наладить сотрудничество с учителями и школами для совместной разработки полезных инструментов.
Технологии могут улучшить процесс обучения и помочь определить, когда и как это происходит.
В заключительном «чате у камина» Президент Стэнфордского университета Джон Левин (1994) и Генеральный директор YouTube Нил Мохан (1996) размышляли о расширении использования ИИ. YouTube превратился из развлекательной платформы в платформу, содержащую огромное количество образовательного контента с открытым доступом, демонстрируя, как обучение стало пожизненным и широко доступным по всему миру. Также YouTube создал такие функции, как «YouTube Courses», которые позволяют преподавателям организовывать свои учебные материалы на платформе, и «Player for Education», который позволяет учителям показывать в классе видео без рекламы в качестве учебного пособия.
Ждет ли мир «ИИ – Фукусима»?
Ян Сэмпл в статье в «Гардиан» «ИИ-Фукусима неизбежна»: ученые обсуждают огромный потенциал и опасности технологий» (22.11.2024) пишет, что эксперты с оптимизмом смотрят на прорывы в производстве энергии и лекарств, но также опасаются их потенциального нецелевого использования.
В ноябре 2024 года в Лондоне состоялся Форум ИИ для науки. В октябре 2024 года два представителя компании Google DeepMind – Демис Хассабис (руководитель компании) и Джон Джампер получили Нобелевскую премию по химии «за предсказание структур белков» на следующий день после того, как ученые Джон Хопфилд и Джеффри Хинтон получили Нобелевскую премию по физике 2024 года за открытия и изобретения, обеспечившие возможность машинного обучения нейросетей.
Ученые работали с ИИ годами, но последнее поколение алгоритмов поставило нас на грань трансформации, сказал на встрече Демис Хассабис. «Если мы сделаем все правильно, это должна быть невероятная новая эра открытий и новый золотой век, может быть, даже своего рода новый ренессанс», — сказал он.
ИИ — это «не волшебная палочка», сказал Хассабис. Чтобы совершить прорыв, исследователи должны сформулировать правильные проблемы, собрать правильные данные, построить правильные алгоритмы и применить их правильным образом.
Однако, затем возникают подводные камни. Что, если ИИ спровоцирует ответную реакцию, усилит неравенство, создаст финансовый кризис, вызовет катастрофическую утечку данных, подтолкнет экосистемы к краю пропасти из-за своих чрезвычайных энергетических потребностей? Что, если он попадет не в те руки и выпустит на волю биологическое оружие, разработанное ИИ?
Сиддхартха Мукерджи, исследователь рака из Колумбийского университета в Нью-Йорке опасается, что может произойти какая-то версия «ИИ-Фукусимы», имея в виду ядерную катастрофу, вызванную цунами в Японии в 2011 году.
Однако, многие специалисты в области ИИ)смотрят в будущее с оптимизмом. Например, в Кении медсёстры используют ИИ для ультразвукового сканирования беременных женщин, что позволяет им избежать длительного обучения. Лондонская компания Materiom применяет ИИ для создания полностью биоразлагаемых материалов, заменяя им нефтехимию. ИИ уже изменил методы медицинской визуализации, климатического моделирования и прогнозирования погоды, а также учится управлять плазмой для термоядерного синтеза. На горизонте появляется виртуальная клетка, где жизнь будет существовать в кремнии.
Хассабис и его коллега Джон Джампер получили Нобелевскую премию за AlphaFold, программу, которая предсказывает структуры и взаимодействия белков. Она используется в биомедицинской науке, в частности, для разработки лекарств. Теперь исследователи из Isomorphic, ответвления Google DeepMind, усиливают алгоритм и объединяют его с другими, чтобы ускорить разработку лекарств. «Мы надеемся, что однажды, в ближайшем будущем, мы сократим время разработки лекарства с нескольких лет, может быть, даже десятилетий, до месяцев или даже недель, и это произведет революцию в процессе разработки лекарств», — сказал Хассабис.
Швейцарская фармацевтическая компания Novartis пошла дальше. Помимо разработки новых лекарств, ИИ ускоряет набор участников для клинических испытаний, сокращая потенциально многолетний процесс до месяцев.
Дженнифер Дудна, которая разделила Нобелевскую премию за инструмент редактирования генов Crispr, сказала, что ИИ сыграет большую роль в том, чтобы сделать терапию более доступной. В прошлом году регулирующие органы одобрили первое использование Crispr, однако высокая стоимость процедуры — 2 млн долларов или 1,6 млн фунтов стерлингов за одного пациента — снижает её привлекательность.
Одна из главных проблем в исследованиях — это так называемый «чёрный ящик». Многие ИИ могут принимать решения, но не объясняют их, что вызывает недоверие к этим системам. Однако, по словам Хассабиса, эту ситуацию можно изменить с помощью технологии, которая будет действовать как сканирование мозга для ИИ. Он считает, что в течение следующих пяти лет они сможем преодолеть этот период «чёрных ящиков», в котором сейчас находятся.
Климатический кризис может оказаться величайшей проблемой для ИИ. Хотя Google, как и многие крупные технологические компании, рекламирует достижения ИИ в прогнозировании наводнений, лесных пожаров и аномальной жары, он потребляет больше энергии, чем даже отдельные страны. Например, для обучения одной большой языковой модели, такой как ChatGPT от OpenAI, может потребоваться 10 гигаватт-часов электроэнергии, что достаточно для обеспечения 1000 домов в США в течение года.
«Я считаю, что выгоды от этих систем значительно перевесят потребление энергии», — сказал Хассабис на встрече, выразив надежду, что ИИ поможет создать новые батареи, сверхпроводники и, возможно, даже ядерный синтез. «Я думаю, что одна из этих вещей, скорее всего, окупится в следующем десятилетии, и это полностью, существенно изменит климатическую ситуацию».
Однако некоторые эксперты выразили сомнения относительно этой точки зрения. Асмерет Асефау Берхе, бывший директор Управления науки Министерства энергетики США, предположила, что развитие ИИ может привести к негативным последствиям, особенно в контексте растущего спроса на энергию. Она выступила за достижение более амбициозных целей в области устойчивого развития. «Компании, работающие в сфере ИИ, инвестируют значительные средства в возобновляемые источники энергии, и мы надеемся, что это ускорит переход от использования ископаемого топлива. Но достаточно ли этого?» — задала она вопрос.
Лопнет ли пузырь искусственного интеллекта в 2025 году или он начнет приносить плоды?
Такой вопрос задает «Экономист» (18.11.2024).Эксперты журнала отмечают: «Сегодняшняя мания искусственного интеллекта началась с запуска ChatGPT в конце ноября 2022 года. Чат-бот от Open AI привлек 100 млн пользователей за несколько недель, быстрее, чем любой другой продукт в истории. Инвесторы вложили достаточно большие средства в этот проект. Ожидается, что расходы на центры обработки данных ИИ в период с 2024 по 2027 год превысят 1,4 трлн долларов. Рыночная стоимость Nvidia, ведущего производителя чипов ИИ, выросла в восемь раз, превысив 3 трлн долларов.
Большинство компаний всё ещё сомневаются в том, что эта технология может сделать и как её лучше использовать. В экономике только 5% американских компаний говорят, что используют ИИ в своих продуктах и услугах. Немногие стартапы в области ИИ получают прибыль. А ограничения по энергии и данным для создания моделей ИИ становятся все более чувствительными. Несоответствие между ожиданиями инвесторов и реальностью бизнеса вполне наглядное — а это значит, что 2025 год обещает стать годом кризиса. Гонка за то, чтобы сделать ИИ более эффективным и полезным, прежде чем инвесторы потеряют свой энтузиазм, началась.
Существует несколько ограничений, замедляющих темпы расширения технологических границ. Обучение больших моделей требует огромного количества энергии. Электричество, используемое для обучения GPT- 4, большой языковой модели, лежащей в основе Chat GPT, могло бы обеспечить питанием 5000 американских домов в течение года. Эквивалентная цифра для GPT- 3, ее предшественника, составляла 100. Таким образом, разработка все более крупных и более совершенных моделей требует все более глубоких карманов. По некоторым оценкам, обучение следующего поколения моделей может обойтись в 1 млрд долларов. Между тем, надвигается нехватка данных для обучения. По одной из оценок, запас высококачественных текстовых данных в Интернете закончится к 2028 году.
Компании по всему миру спешат придумать умные решения этих проблем, от более эффективных и специализированных чипов до более специализированных и меньших моделей, которым требуется меньше энергии. Другие придумывают способы использования новых высококачественных источников данных, таких как учебники, или создания синтетических данных для использования в обучении. Приведет ли это к постепенным улучшениям в технологии или сделает следующий большой скачок вперед доступным и осуществимым, пока неясно.
Конечные пользователи сталкиваются с трудностями при освоении ИИ, так как им приходится изучать новые методы работы, инвестировать в технологии и обучать своих сотрудников. Некоторые отрасли уже успешно внедряют ИИ, например, около 20 % ИТ-компаний используют его. По мере развития и усложнения технологий, например, появления в 2025 году систем, способных решать более сложные задачи, процесс внедрения ИИ может ускориться.
Однако, хотя лишь немногие компании заявляют о применении ИИ, треть сотрудников в США говорят, что используют его хотя бы раз в неделю. В некоторых профессиях этот показатель ещё выше. Одно исследование показало, что 78% инженеров-программистов в Америке используют ИИ по крайней мере еженедельно, по сравнению с 40% в 2023 году. Между тем, Open AI заявляет, что 75% ее доходов поступает, что показательно, от потребителей, а не от корпоративных подписок.
Все это говорит о том, что ИИ используется в основном в тайне, поскольку работники используют его для упрощения задач, таких как переписывание текста или создание отчетов. Сотрудники могут беспокоиться, что если они признаются в использовании ИИ для более быстрого выполнения задач, начальники дадут им больше работы или воспримут это как сигнал о том, что нужно меньше работников. Это, в свою очередь, означает, что принятие ИИ — это не только технологическая, но и управленческая проблема. Чтобы максимально использовать технологию, руководителям необходимо создать среду, которая стимулирует открытость и экспериментирование, а не секретность и подозрительность.
Возможно, в 2025 году самые выдающиеся прорывы в области ИИ произойдут в других областях, таких как например оборона (поскольку интеллект добавляется к беспилотникам, которые становятся ключевыми системами вооружения будущего).
Гонка ИИ, таким образом, примет множество форм в 2025 году. Однако момент, когда инвесторы теряют самообладание, часто наступает, когда новые технологии тихо начинают набирать обороты. Лопнет ли пузырь или технология начнет приносить пользу?
Новый исследовательский отчет демонстрирует быстрое и широкое внедрение генеративного ИИ.
SiliconANGLE (22.11.2024 ) сообщил, что компания C1, которая предоставляет технологические решения для улучшения взаимодействия людей с окружающим миром, опубликовала отчёт в ноябре 2024 года. Этот отчёт показывает, насколько широко и быстро предприятия используют генеративный искусственный интеллект. В отчете «Эра подключенного человеческого опыта на базе ИИ уже наступает» рассматривается, как организации используют ИИ для улучшения автоматизации, разработки новых продуктов и услуг, создания программного обеспечения и многого другого.
C1 опросила более 500 лиц, принимающих решения, из нескольких секторов, включая образование, финансы, здравоохранение и производство. Результаты показывают стратегическую роль, которую ИИ уже играет. Вот некоторые основные моменты:
- 100% опрошенных организаций создают новые ключевые показатели эффективности для мониторинга приложений ИИ на своих предприятиях. Основное внимание уделяется улучшению качества взаимодействия.
- 99% активизировали внедрение ИИ, а 51% опрошенных руководителей заявили, что они «значительно ускоряют» интеграцию ИИ в свои операции.
- 80% респондентов заявили, что ИИ «необходим для улучшения взаимодействия сотрудников и качества работы».
- 76% организаций считают, что ИИ станет «неотъемлемой частью повышения качества и опыта взаимодействия с клиентами».
Одним из наиболее интересных аспектов исследования является изучение различных способов, которыми организации используют искусственный интеллект для выполнения критически важных задач:
- 85% используют ИИ для повышения уровня автоматизации;
- 84% используют ИИ для совместной разработки продуктов и услуг;
- 84% утверждают, что ИИ помогает им разрабатывать код;
- 68% используют ИИ для виртуальных помощников или вторых пилотов.
Так как ИИ стал широко использоваться в компаниях, интересно узнать, что 90 % руководителей, участвовавших в опросе, считают, что ИИ улучшает рабочую среду для сотрудников. В качестве примеров приводится внедрение виртуальных помощников, решений по автоматизации и инструментов для поддержки динамических рабочих процессов.
Руководители не забывают о рисках, связанных с развитием искусственного интеллекта. Как и в случае с любой новой технологией, может потребоваться время, чтобы с высокой степенью уверенности определить, является ли инновация полезной или потенциально опасной. Этот процесс может продвигаться быстрее в отношении ИИ-поколения, чем в отношении почти любой другой технологии, которая появилась на рынке за последние десятилетия.
Даже несмотря на то, что организации быстро внедряют инновации в области ИИ, в отчете признается, что руководители предприятий «должны осознавать потенциальные риски и проблемы внедрения генеративного ИИ». Области, в которых, как утверждается в отчете, «организациям следует проявлять осторожность», включают конфиденциальность данных, проблемы интеллектуальной собственности и риски кибербезопасности. По мнению респондентов опроса, «нехватка квалифицированных специалистов» в области разработки, развертывания и обслуживания ИИ связана с этими проблемами.
Около 65% респондентов заявили, что их организация «пересмотрела свои протоколы кибербезопасности» в отношении потенциальных рисков, связанных с ИИ, чтобы устранить эти опасения. C1 отмечает в отчете, что осторожность среди первых последователей «подчеркивает важность стратегического планирования и внедрения ИИ».
Это тот случай, когда безопасность и соответствие требованиям должны быть встроены в проект новых процессов, основанных на ИИ. Часто компании внедряют новые технологии, а вопросы безопасности рассматриваются на этапе постпроизводства. Учитывая, что риски, связанные с ИИ, настолько высоки и будут публичными, включение его в процесс внедрения является благоразумным.
Раннее внедрение ИИ связано с преимуществами первопроходцев
Респонденты опроса, сообщившие о «высоком или очень высоком уровне использования» искусственного интеллекта, представляют широкую группу отраслей:
Коммунальные услуги: 86%;
Здравоохранение: 81%;
Производство: 75%;
Финансы и страхование: 68%;
Гостеприимство: 68%;
Образование: 65%.
Примечательно, что в перечисленных отраслях те, кто быстрее всех внедряет инновации, обычно действуют медленно, и их процессы содержат «человеческий фактор». ИИ может значительно улучшить ситуацию в этих сферах. Каждая упущенная возможность стоит организации много денег из-за затрат на персонал и оборудование. В таких организациях ИИ используется для автоматизации, например, общения с пациентами и подтверждения записей на приём, что привело к сокращению количества пропущенных приёмов на 90%.
C1 ссылается на «потенциально значимые» последствия первопроходца в области ИИ. «Организации, которые набираются опыта, делают это ускоренными темпами, в то время как те, кто осторожно подходит к внедрению генеративного ИИ, рискуют слишком сильно отстать». Мы видели, как это происходило в эпоху Интернета, когда компании, о которых мы никогда раньше не слышали, нарушали работу проверенных поставщиков. Ожидайте увидеть то же самое с ИИ.
Остерегайтесь технологий, которые делают нас менее человечными
К этому призывает в своей статье в «Атлантике» (21.05.2024) Тайлер Остин Харпер (профессор колледжа Бейтса). «По мере того, - пишет он, - как разговоры об опасностях ИИ накалялись— в основном благодаря стремительному росту крупных языковых моделей, таких как ChatGPT, — внимание как СМИ, так и Кремниевой долины было сосредоточено на сценариях Скайнета. Есть опасения, что языковые модели могут стать слишком большими и мощными, что приведёт к появлению общего искусственного интеллекта или искусственного сверхинтеллекта (ASI). ASI будет гораздо умнее и производительнее, чем люди. Это часто называют сценарием «быстрого взлета». Беспокойство вызывает то, что если ASI выйдет из-под контроля человечества — а это может быть не так, — он может решить уничтожить наш вид или даже поработить нас».
«Эти дебаты об «экзистенциальном риске» ИИ — по крайней мере, те, которые ведутся публично — приобрели характер игры с нулевой суммой: они ведутся почти исключительно между теми, кто верит, что вышеупомянутые опасности в стиле «Терминатора» реальны, и теми, кто считает, что это голливудские фантазии, которые отвлекают общественность от более актуальных проблем, связанных с ИИ, таких как алгоритмическая дискриминация, автономные системы вооружений Но это ложная бинарность, которая исключает другую возможность: искусственный интеллект может значительно уменьшить человечность, даже если машины никогда не поднимутся до сверхразума, лишив людей способности делать человеческие вещи».
Исследование 2019 года показало значительный рост популярности онлайн-знакомств с 1995 года, когда появился сайт Match.com. В 1995 году только 2% пар знакомились онлайн, а к 2017 году эта цифра выросла до 39%. Другие способы знакомств, такие как встречи с друзьями или семьёй, на работе или в церкви, значительно сократились.
Единственным способом знакомств, который увеличился за этот период, были встречи в барах и ресторанах. Однако авторы исследования отмечают, что этот рост был иллюзией, так как большинство пар, которые начали встречаться в барах и ресторанах, ранее познакомились онлайн. Исключение этих пар из статистики показывает сокращение использования баров и ресторанов для знакомств после 1995 года.
Таким образом, онлайн-знакомства стали доминирующим способом знакомств, и даже продавцы услуг знакомств признают, что использование алгоритмов вместо людей в процессе знакомств вызывает беспокойство. Реклама Tinder, выпущенная прошлой осенью, демонстрирует эту обеспокоенность, представляя персонажей, которые наделяют алгоритмический процесс знакомств человеческими чертами.
Эксперт по истории развития искусственного интеллекта, Лейф Уэзерби, говорит, что такая реклама отражает маркетинговые принципы Кремниевой долины. «Мы видим общую тенденцию продавать ИИ как инструмент для расширения возможностей. С его помощью можно улучшить навыки в разных областях, например, при написании текстов, инвестициях или знакомствах», — объяснил Уэзерби. «Но на самом деле происходит то, что мы становимся настолько зависимыми от алгоритмических решений, что теряем контроль над нашими собственными мыслительными процессами и даже социальными отношениями. Риторика о расширении прав и возможностей ИИ — это овечья шкура для волков из Кремниевой долины, которые намеренно подпитывают зависимость общественности от своих платформ». Таким образом, ограничение человеческой независимости — это не ошибка, а особенность золотой лихорадки ИИ».
«Конечно, эта зависимость от ИИ не уникальна, она возникает при появлении новых технологий. Распространение ИИ снижает человеческие навыки в тех областях, где он эффективен или заменяет их полностью. Это ведёт к снижению ловкости людей в выполнении задач, с которыми раньше они справлялись легко. Разница между технологиями удобства, такими как пылесос или стиральная машина, и такими платформами, как Tinder или ChatGPT, заключается в том, что последние связаны с атрофирующимися компетенциями, такими как романтическое общение или мышление и рефлексия, которые имеют фундаментальное значение для того, что значит быть человеком».
«Реакция на наш алгоритмически переделанный мир не может заключаться в том, чтобы запретить алгоритмы. Такая позиция не только несостоятельна на практическом уровне — алгоритмы никуда не денутся, — но и подрывает безукоризненно позитивные сценарии использования, такие как использование ИИ в диагностике рака. Вместо этого нам следует разработать более сложный подход к искусственному интеллекту, чтобы уметь отличать законное расширение возможностей людей с его помощью от ситуаций, когда ИИ захватывает контроль над основными сферами человеческой деятельности. Однако для проведения таких различий нам придётся вернуться к идее о том, что человек обладает уникальными качествами.
«По мере того, как искусственный интеллект встраивается в постоянно расширяющийся список продуктов и услуг, включая знакомства, написание эссе, рекомендации по музыке и рецептам, мы должны иметь возможность принимать детальные, рациональные решения о том, какие способы использования искусственного интеллекта расширяют наши основные человеческие возможности, а какие культивируют некомпетентность и неспособность под видом расширения прав и возможностей. Алгоритмы, которые ухудшают нашу способность выполнять основные действия, и мы начинаем беспокоиться об этом».
Поколение подопытных кроликов с искусственным интеллектом?
Кэролайн Мимбс Найс пишет в «Атлантике» (14.06.2024):«Дети снова выступают в качестве бета-тестеров нового поколения цифровых технологий, как это было на заре социальных сетей. Разные возрастные группы будут по-разному воспринимать ИИ — самые маленькие дети могут слышать сказки на ночь, сгенерированные их родителями с помощью ChatGPT, в то время как старшие подростки могут столкнуться с чат-ботами в приложениях, которые они используют каждый день, — но теперь это реальность. Запутанная, иногда вдохновляющая, а часто и проблематичная технология уже здесь, и она перестраивает онлайн-жизнь.
Дети могут столкнуться с ИИ во многих местах. Компании подобные Google, Apple и Meta, встраивают модели генеративного ИИ в такие продукты, как Google Search, iOS и Instagram*. Snapchat — приложение, которым пользуются 60% всех американских подростков и сравнительно немного пожилых людей — предлагает чат-бота под названием My AI, итерацию ChatGPT. Chromebook, относительно недорогие ноутбуки, используемые десятками миллионов учеников в школах по всей стране, получают обновления с ИИ. Мошенники, стремящиеся быстро разбогатеть, уже используют ИИ для создания и публикации синтетических видео для детей на YouTube, которые они затем могут монетизировать.
Независимо от того, для чего на самом деле хорош ИИ, дети, вероятно, будут теми, кто испытает на себе некоторые из его худших последствий. «Это своего рода социальный факт природы, что дети будут более подвержены экспериментам и станут движущей силой многих инноваций», сказала Мидзуко Ито, автор книги «Разработка игры : культурная история детского программного обеспечения».
Это можно понять. Родители и педагоги обеспокоены тем, что дети могут использовать инструменты ИИ для выполнения школьных заданий. Согласно опросу, те, кто использует ChatGPT от OpenAI, говорят, что они в три раза чаще используют его для школьных занятий, чем поисковые системы, такие как Google. Если чат-боты могут писать целые статьи за считанные секунды, то какой смысл в написании эссе на дом? Как современные дети научатся писать? Еще одна проблема — чат-боты с ИИ могут выдавать предвзятые или фактически неверные ответы. Конфиденциальность также является проблемой. Для работы этих моделей требуется огромное количество данных, и уже сейчас данные детей используются без их согласия.
Кроме того, ИИ создает новые формы подростковой жестокости. В марте пятеро учеников были исключены из средней школы в Беверли-Хиллз после того, как начали распространять поддельные обнаженные фотографии их одноклассников, сделанные с помощью генеративного ИИ. Газета «Нью-Йорк Таймс» сообщила, что использование учащимися ИИ для создания таких медиафайлов о своих одноклассниках фактически стало «эпидемией» в школах по всей стране.
В конечном счете, каждый ребенок уникален. Разные возрасты будут воспринимать ИИ по-разному. Но особенно всех интересуют самые маленькие дети, которые могут столкнуться с ИИ, не имея реального представления о том, что это такое. Для них грань между тем, какие медиа реальны, а какие нет, уже размыта. Например, когда речь заходит об умных колонках, «очень маленькие дети могут подумать: «О, в этой коробке сидит маленький человек, который разговаривает со мной», — сказала автору Хизер Киркорян, Директор лаборатории когнитивного развития и медиа в Университете Висконсина в Мэдисоне. Еще более человекоподобный ИИ может еще больше размыть границы для них, говорит Ин Сюй, профессор образования в Мичиганском университете, до такой степени, что некоторые из них могут начать разговаривать с другими людьми так же, как разговаривают с Alexa: грубо и властно.
Дети старшего возраста и подростки способны мыслить более конкретно, но им может быть трудно отделить реальность от дипфейков. Даже взрослые испытывают трудности с вещами, созданными искусственным интеллектом, — для детей средних и старших классов эта задача еще более сложна. «Детям будет еще сложнее этому научиться», — пояснила Киркорян, сославшись на необходимость повышения медийной и цифровой грамотности. Подростки, в частности, могут быть уязвимы к некоторым из худших последствий ИИ, учитывая, что они, возможно, являются одними из самых больших пользователей ИИ в целом.
Прошло более десяти лет, а взрослые все еще пытаются понять, что сделали и делают с молодыми людьми смартфоны и социальные сети. Во всяком случае, беспокойство по поводу их влияния на детство и психическое здоровье только возросло. Внедрение искусственного интеллекта означает, что сегодняшние родители имеют дело сразу с несколькими волнами негативной реакции на технологии (они уже беспокоятся об экранном времени, кибербуллинге и обо всем остальном).
Что касается любой новой технологии, эксперты обычно советуют родителям поговорить о ней со своими детьми и стать надежным партнером в их исследовании. Дети, как эксперты, также могут помочь найти путь вперед.
ИИ отнимает рабочие места
«Гардиан» (08.11.2024 ) приводит данные аналитического центра Тони Блэра, о том, что искусственный интеллект может сократить от 1 до 3 миллионов рабочих мест в частном секторе Великобритании, хотя в конечном итоге рост безработицы составит несколько сотен тысяч человек, поскольку развитие технологий также создает новые рабочие места.
По оценкам Института Тони Блэра (TBI), в течение пары десятилетий на пике кризиса ежегодно будет сокращаться от 60 000 до 275 000 рабочих мест Эта цифра описывается как «относительно скромная», учитывая, что среднее число потерь рабочих мест в Великобритании за последнее десятилетие составило около 450 000 в год.
TBI прогнозирует, что общие потери составят несколько сотен тысяч на пике в конце следующего десятилетия, поскольку ИИ создает новый спрос на работников других профессий и возвращает их в экономику.
«Наш оптимистичный прогноз заключается в том, что пик воздействия ИИ на безработицу, вероятно, составит несколько сотен тысяч, и со временем эффект ослабеет», — говорится в отчете под названием «Влияние ИИ на рынок труда». «Общий урок заключается в том, что ИИ, вероятно, увеличит динамизм рынка труда, побуждая больше работников покидать существующие рабочие места и осваивать новые». По словам представителей TBI, такой процесс потребует «модернизации» инфраструктуры рынка труда Великобритании, которая может включать в себя систему раннего оповещения, отмечающую, как ИИ может повлиять на работу персонала.
В отчете подсчитано, что внедрение ИИ может повысить ВВП (меру экономического роста) на 1% в течение следующих пяти лет, увеличившись до 6% к 2035 году. Между тем, уровень безработицы может вырасти на 180 000 человек к 2030 году. В настоящее время в Великобритании насчитывается около 1,4 миллиона безработных.
Однако TBI, которая назвала ИИ «существенной политической проблемой», заявила, что все эти сценарии зависят от таких факторов, как инструменты, которые появятся в течение следующего десятилетия, инвестиционные решения, принимаемые частными компаниями, и государственная политика, которая ускоряет или замедляет внедрение.
Аналитики утверждают, что ИИ, безусловно, заменит некоторые рабочие места, но может создать новые, повышая производительность труда и стимулируя экономический рост.
По мнению аналитиков TBI , административные и секретарские должности, а также работа в сфере продаж и обслуживания клиентов, банковского дела и финансов наиболее подвержены влиянию ИИ. Большая часть эффективности будет достигнута благодаря продуктам, выполняющим когнитивные задачи, таким как чат-боты, а не оборудованию с поддержкой ИИ, выполняющему физическую работу.
Однако с ростом автоматизации могут пострадать профессии, связанные с рутинными когнитивными задачами, и отрасли, генерирующие большие объёмы данных, так как их легче автоматизировать.
***
Подытоживая, хотелось бы отметить, что, что искусственный интеллект в 2025 году продолжит активно развиваться и интегрироваться в различные отрасли. Ожидается, что ИИ будет всё глубже проникать в повседневную жизнь и бизнес-процессы, обеспечивая автоматизацию, анализ данных и улучшение пользовательского опыта. Искусственный интеллект, несмотря на некоторые риски, станет неотъемлемой частью нашей жизни, облегчая её и повышая качество предоставляемых услуг.
*соцсеть компании Meta, признанной экстремистской и запрещённой в РФ
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_nastupaet_vozmozhnosti_i_riski_narastayut
22.11.2024 Трамп, Си, ИИ
Технологическая война между США и Китаем усиливается
Возвращение Дональда Трампа в должность вызвало вопросы о возможных изменениях политики в отношении искусственного интеллекта в Соединенных Штатах.
Трамп пообещал отменить знаменательный Указ действующего президента Джо Байдена об искусственном интеллекте и создать Департамент эффективности государственного управления, получивший название DOGE, во главе с Илоном Маском.
Одновременно новая команда Трампа нацелена на жесткое технологическое противоборство с Китаем.
ИИ: регулирование или дерегулирование?
Мэри Боран в статье «Что будет означать новый срок Трампа для ИИ?», опубликованной в журнале Newsweek (17.11.2024) пишет, что «по мнению экспертов регулирование на уровне штатов и стремление к инновациям в области ИИ, скорее всего, сохранятся независимо от изменений в федеральном надзоре, хотя сохраняются опасения по поводу баланса между технологическим прогрессом и стандартами безопасности и этики».
Какова в настоящее время политика в области ИИ в США?
Текущая политика правительства США в области ИИ направлена на поиск баланса между инновациями и стандартами безопасности, защиты и этики посредством нескольких ключевых инициатив, включая Консорциум Института безопасности искусственного интеллекта США (AISIC), созданный в феврале 2024 года, и Указ об ИИ, подписанный Байденом в октябре 2023 года.
В указе под названием «Безопасная, надежная и заслуживающая доверия разработка и использование искусственного интеллекта» изложены меры по управлению разработкой и развертыванием ИИ. Он обязывает федеральные агентства устанавливать стандарты безопасности и защиты ИИ, защищать конфиденциальность и содействовать равенству. Он также требует создания должности главного сотрудника по искусственному интеллекту в основных федеральных агентствах для надзора за деятельностью, связанной с ИИ.
До того, как этот Указ был издан, в октябре 2022 года Управлением по научно-технической политике Белого дома (OSTP) был опубликован «Проект Билля о правах ИИ». В нём предлагалось пять принципов защиты общественности от вредоносных или дискриминационных автоматизированных систем.
Эти принципы включают обеспечение безопасных и эффективных систем, защиту от алгоритмической дискриминации, защиту конфиденциальности данных, предоставление уведомлений и объяснений, а также предложение человеческих альтернатив и запасных вариантов. Многое из этого было включено в Указ, который Трамп уже пообещал отменить, когда вернется в Белый дом.
«В каком-то смысле статус-кво регулирования ИИ таков, что его нет. По сути, целью Указа и Института безопасности ИИ было инициировать обсуждение на федеральном уровне того, что означает безопасный ИИ? Что означает надежный ИИ?» — рассказал Newsweek доктор Джейсон Корсо, профессор робототехники, электротехники и компьютерных наук в Мичиганском университете и соучредитель компании компьютерного зрения Voxel51.
«Я думаю, растет понимание того, что для повсеместного внедрения ИИ действительно необходимо больше доверия к нему, и эти правила или эти инициативы помогли бы инициировать этот диалог», — добавил он.
Как могут пострадать государственные законы в отношении ИИ?
Однако отмена федеральных правил не меняет законы штата. Например, в Калифорнии действует Закон о прозрачности ИИ, подписанный губернатором Гэвином Ньюсомом в сентябре 2024 года.
Этот закон требует от создателей систем генеративного искусственного интеллекта предоставлять инструменты для обнаружения использования ИИ, предлагать пользователям возможность самостоятельно включать информацию о том, что контент создан с помощью ИИ, встраивать эту информацию в сам контент, а также заключать договоры с правообладателями для поддержки внедрения таких механизмов.
«Администрация Трампа может смягчить федеральные правила в отношении ИИ, чтобы стимулировать инновации и уменьшить то, что она может воспринимать как нормативную нагрузку на бизнес, однако это не повлияет на законы штата, подобные тем, что недавно были приняты в Калифорнии», — рассказал Newsweek Шон Рен, доцент кафедры компьютерных наук в Университете Южной Калифорнии (USC) и Генеральный директор Sahara AI.
«Это может создать путаницу правил, из-за чего компаниям, работающим на национальном уровне, будет сложнее соблюдать требования. Хотя компании могут ощутить снижение нагрузки со стороны федерального регулирования, они всё равно должны соблюдать государственные нормы», — добавил он.
Маркус Андерльюнг, Директор по политике и исследованиям Центра управления ИИ и внештатный научный сотрудник Центра новой американской безопасности (CNAS), рассказал Newsweek, что в связи с отсутствием федеральных правил, специально нацеленных на передовые компании в сфере ИИ, самым большим изменением «станет активизация усилий по упрощению строительства новых центров обработки данных и выработки электроэнергии, включая ядерные реакторы, необходимые для их работы».
«Существует двухпартийный консенсус относительно важности поддержки американской индустрии искусственного интеллекта, конкуренции с Китаем и наращивания мощностей американских центров обработки данных», — добавил он.
По словам Андерльюнга, эта ориентация на конкуренцию с Китаем была элементом предыдущей администрации Трампа, которая «начала вводить более строгий контроль за экспортом продукции ИИ в Китай, начав с контроля над телекоммуникационной компанией Huawei , а затем перейдя к контролю за экспортом оборудования для производства полупроводников».
«Это говорит о том, что новая Администрация Трампа может сохранить или ужесточить контроль, введенный Администрацией Байдена, особенно в свете недавних сообщений о том, что чипы Huawei производятся на заводе TSMC (Taiwan Semiconductor Manufacturing Company)», — добавил он.
Какое место занимает Маск в планах Трампа по изменению политики в отношении ИИ?
С объявлением о создании DOGE , которую возглавит Маск, регулирование ИИ (или его дерегулирование) потенциально может войти в компетенцию руководителя Tesla.
«Роль Илона Маска на посту Генерального директора компаний, работающих на основе искусственного интеллекта, таких как Tesla и Neuralink, сопряжена с внутренним конфликтом интересов, поскольку политика, которую он помогает формировать, может напрямую повлиять на его бизнес», — сказал Рен.
«Это усложняет любую прямую консультативную роль, которую он мог бы взять на себя. Тем не менее, Маск давно выступает за ответственное регулирование ИИ и может привнести ценные идеи в политику в области ИИ, не ставя под угрозу общественные интересы».
Однако, учитывая сложность политики в области ИИ, Рен считает, что «эффективное руководство требует большего, чем просто одного ума», добавляя, что «крайне важно иметь экспертов из разных областей для решения различных этических, технологических и социальных вопросов».
Рен предположил, что для более эффективного решения проблем ИИ Трамп мог бы создать многопрофильную консультативную группу, в которую вошли бы эксперты из академических кругов, технологических областей и этики, что позволило бы уравновесить влияние Маска и обеспечить всестороннюю точку зрения.
Продолжение инноваций в области искусственного интеллекта
В конечном итоге, указывая на относительное отсутствие федерального регулирования в сфере ИИ, особенно по сравнению с ЕС, Корсо считает, что второй срок Трампа не обязательно изменит уровень инноваций в сфере ИИ, и что создание среды безопасного и надежного ИИ в большей степени зависит от отдельных игроков в этой сфере.
«В сфере ИИ уже существует огромное количество инноваций. Я не думаю, что регулирование действительно окажет на это влияние. В сфере ИИ и в дальнейшем будет существовать огромное количество инноваций», — сказал он.
«Я думаю, нам нужно увидеть больше компаний, больше лидеров, которые будут открыто делиться своей работой. Я считаю, что открытая экосистема для ИИ означает более безопасные и быстрые инновации».
Конгресс США напуган технологическими разработками Китая в области космоса, искусственного интеллекта, квантовых вычислений и биотехнологий
Ежегодный отчёт группы экспертов (Комиссии) Конгресса США по обзору экономики и безопасности США и Китая призывает к срочным мерам по противодействию быстрому прогрессу Китая в области искусственного интеллекта, квантовых вычислений, биотехнологий и космических технологий.
Ежегодный доклад по обзору экономики и безопасности США и Китая, опубликованный 19 ноября, выделяет государственные инвестиции и «техно-националистические» стратегии китайского правительства как ключевые движущие силы его прогресса в этих критически важных секторах.
В докладе подробно описывается, как Китай интегрировал передовые технологии в свои экономические и военные стратегии. Среди 32 рекомендаций комиссия призывает Конгресс определить космос приоритетным направлением конкуренции и провести всесторонний обзор коммерческой космической отрасли США.
В нем также предлагается, чтобы США создали «программу, похожую на Манхэттенский проект», для разработки возможностей искусственного интеллекта общего назначения (AGI).
Космические достижения Китая, особенно в военных направлениях, являются ключевой проблемой, упомянутой в докладе. Народно-освободительная армия Китая (НОАК) значительно расширила свои возможности космического наблюдения, утроив количество спутников на низкой околоземной орбите и удвоив количество спутников на геостационарной орбите в период с 2018 по 2024 годы. Эти активы, включая электрооптические спутники визуализации, теперь обеспечивают почти непрерывное покрытие Индо-Тихоокеанского региона, представляя существенную угрозу для операций США и их союзников.
В отчете также обсуждается стремление Китая к развитию противокосмических технологий, включая направленное энергетическое оружие и противоспутниковые системы, которые могут подорвать спутниковые сети США как в мирное время, так и в конфликтное. В ответ Комиссия рекомендует пересмотреть правила, регулирующие коммерческий космический сектор США, чтобы способствовать более быстрым инновациям и при этом защищать чувствительные технологии.
Пентагон призвали отдать приоритет ОИИ
Призыв Комиссии к преобразующему подходу к искусственному интеллекту является одним из ее самых ярких предложений. Она рекомендует Конгрессу создать и полностью профинансировать национальную программу по разработке AGI — продвинутой формы ИИ, способной к человеческому мышлению и адаптивности.
Хотя AGI остается теоретическим, в отчете подчеркивается риск отставания от Китая в этой области. Инвестиции Пекина в ИИ охватывают как гражданские, так и военные разработки, что вызывает опасения относительно возможности AGI изменить глобальный баланс сил.
Комиссия настоятельно призывает Конгресс поручить Министерству обороны США присвоить программам разработки ИИ статус «DX Rating», что даст им наивысший приоритет при финансировании и ресурсах.
В докладе повторяются давние опасения, высказанные представителями Министерства обороны США относительно способности НОАК нарушать военные операции США. Направленное энергетическое оружие, противоспутниковые возможности и другие противокосмические технологии могут серьезно угрожать американским спутникам, включая те, которые используются для связи, навигации и разведки.
Растущий арсенал противокосмических средств Китая также нацелен на возникающие угрозы со стороны коммерческих спутниковых провайдеров, чьи услуги стали неотъемлемой частью операций Пентагона. В докладе предупреждается, что НОАК рассматривает эти партнерства как уязвимости, которыми можно воспользоваться.
«Существует огромная ценность в развитии открытой экосистемы, в которой люди будут делиться своими мыслями, своими пониманиями, своими моделями, своими данными и т. д.».
Запрет США на инвестирование в китайские стартапы в сфере искусственного интеллекта может ужесточиться при Трампе
Администрация Байдена сосредоточилась на китайских компаниях, разрабатывающих передовые модели искусственного интеллекта, но Дональд Трамп мог бы использовать гораздо более широкий подход.
В конце октября 2024 года, Министерство финансов США окончательно утвердило новые правила, ограничивающие виды китайских технологических стартапов, в которые американские венчурные компании могут инвестировать по соображениям национальной безопасности. Когда они вступят в силу в январе 2025 года, долгожданные меры не позволят американским венчурным капиталистам и другим инвесторам вкладывать деньги в передовые китайские модели искусственного интеллекта. После того, как избранный президент Трамп вступит в должность несколько недель спустя, его Администрация может расширить правила и сделать их еще более жёсткими.
Wired (18.11.2024) пишет, что «в то время как США по-прежнему лидируют в мире в области передовых разработок ИИ, американское правительство все больше обеспокоено тем, что Китай вскоре догонит их. Новые ограничения на исходящие инвестиции призваны работать вместе с другими мерами, такими как экспортный контроль передовых компьютерных чипов и работа Комитета по иностранным инвестициям в США (CFIUS), чтобы в совокупности затруднить — или, по крайней мере, замедлить — прогресс китайских компаний в области ИИ».
Новые ограничения очерчивают две широкие запретные зоны для американских инвесторов в области ИИ. Первая — это компании, разрабатывающие технологии, предназначенные исключительно для чувствительных целей, таких как военные и разведывательные службы Китая, в которые инвесторам будет запрещено вкладывать деньги независимо от того, насколько продвинутыми могут быть их возможности ИИ.
Для китайских стартапов, работающих над такими вещами, как потребительский ИИ, американским венчурным фирмам нужно будет использовать определенный порог, чтобы определить, могут ли они инвестировать в них. Модель ИИ стартапа не может быть больше 10 в 25-й степени флопсов или операций с плавающей запятой в секунду, числовой меры, которая указывает на размер и возможности модели ИИ (Европейский союз использовал тот же порог, чтобы определить, какие системы ИИ должны подвергаться более строгому контролю со стороны регулирующих органов). Более низкий порог, 10 в 24-й степени флопсов, будет применяться к системам ИИ, которые в первую очередь обучаются с использованием данных о биологических последовательностях из-за опасений, что такие инструменты могут быть использованы для особо чувствительных целей, таких как создание биологического оружия.
Справка от Е.Л., В.О.:
FLOPS – внесистемная единица, используемая для производительности компьютера. Показывает, сколько операций с плавающей запятой в секунду выполняет данная вычислительная система.
«Модель 10 в 25-й степени флопсов — это граница. Самые большие модели, которые существуют сегодня, находятся в диапазоне от 10 в 25-й степени до 10 в 26-й степени флопсов», — говорит Хайме Севилья, директор Epoch AI, исследовательской организации, которая отслеживает траекторию индустрии ИИ. Сюда входят все громкие имена, такие как GPT OpenAI, Gemini Google, Llama и Claude Anthropic. «Модель 10 в 24-й степени флопсов — это то, как выглядела граница в 2022 году. Для большинства гораздо более типично обучение выше 10 в 24-й степени флопсов - порога в настоящее время», — объясняет Севилья.
Epoch AI отслеживает количество флопсов, которые компании ИИ раскрыли публично или которые можно оценить по их техническим характеристикам, хотя Севилья говорит, что компании становятся более осторожными в раскрытии точных измерений своих моделей. На данный момент только две китайские компании, владелец TikTok ByteDance и Zhipu AI, публично объявили о моделях, превышающих 10 в 25-й степени флопсов. Что касается китайских моделей, обученных в первую очередь на данных биологических последовательностей, ни одна из них не превзошла 10 в 24-й степени 4 флопсов.
Эмили Килкриз, старший научный сотрудник аналитического Центра новой американской безопасности, говорит, что порог в 10 в 25-й степени флопсов, установленный Министерством финансов, будет проще обеспечить для правительства США, чем полный запрет на все инвестиции в системы ИИ с военным применением. «Учитывая, что ИИ по сути своей имеет двойное назначение, я всегда рассматриваю ограничения конечного использования как принципиально неработоспособные», — говорит она. «Они являются своего рода дополнением к тому, что я на самом деле считаю более работоспособными ограничениями, основанными на вычислительной мощности модели ИИ».
Устанавливая стандарт 10 в 25-й степени флопсов, Министерство финансов нацеливается на относительно узкую полосу китайского сектора ИИ, которая немедленно будет отрезана от любых потенциальных инвестиций США в январе 2025 года. Учитывая их небольшой масштаб, ограничения могут иметь ограниченное немедленное финансовое воздействие, но они, вероятно, помогут отговорить все китайские компании ИИ от обращения за помощью, финансовой или иной, к Соединенным Штатам в будущем. Это может оказаться особенно актуальным, если новая Администрация Трампа решит сделать их еще более строгими.
Несколько из первых назначенцев Трампа имеют давнюю историю жесткой позиции по отношению к Китаю, а некоторые из них конкретно выразили заинтересованность в ограничении потока денег инвесторов из США в Китайскую Народную Республику. Марко Рубио, сенатор США от Флориды, который был номинирован на пост нового Госсекретаря Трампа, в сентябре 2024 года предложил законопроект, значительно увеличивающий сумму налогов, которые инвесторы должны платить за свои инвестиции в китайские компании.
Больше домашних заданий
В краткосрочной перспективе трудно сказать, почувствует ли китайская индустрия искусственного интеллекта влияние новых правил. Инвестиционные потоки между США и Китаем уже сократились до минимума после многих лет напряженных отношений между двумя странами, особенно по вопросам, связанным с передовыми технологиями.
«Пик этих типов инвестиций действительно пришелся на 2016 год. И с тех пор наблюдается довольно большой спад», — говорит Сара Бауэрле Данцман, доцент кафедры международных исследований в Университете Индианы в Блумингтоне, которая ранее помогала правительству США в рассмотрении иностранных инвестиций. Но есть вероятность, что американские инвесторы снова заинтересуются сделками с китайскими фирмами ИИ, и новые ограничения «действительно рассматриваются как задраивание люков, даже если мы не думаем, что пойдет настоящий поток сделок», — говорит Данцман.
Более определенное краткосрочное воздействие заключается в том, что инвесторам США, которые все еще заинтересованы в китайских стартапах в области ИИ, придется провести гораздо больше комплексной проверки. Министерство финансов не создает новый правительственный комитет вроде CFIUS, который будет рассматривать каждую транзакцию, представленную инвесторами, а вместо этого просит компании самостоятельно провести анализ и сообщить, считают ли они, что та или иная китайская компания в сфере ИИ подходит под указанные критерии.
Согласно новым правилам, даже если модель ИИ китайского стартапа меньше порогового размера в 10 в 25-й степени флопсов, американский инвестор все равно может нести ответственность за уведомление Министерства финансов о своей сделке и проделанной домашней работе, если его модель составляет не менее 10 в 23-й степени флопсов (по сути, охватывая все крупномасштабные модели, разрабатываемые сегодня и в будущем). По сути, это означает, что правительство США создает собственную систему для мониторинга общего потока денег, идущих от американских инвесторов в китайские компании, работающие над ИИ.
«Чтобы подтвердить, что транзакция выходит за рамки, инвесторам из США потребуется провести значительную комплексную проверку», — говорит Роберт А. Фридман, юрист по международной торговле в юридической фирме Holland & Knight. Хотя правила приветствовались американскими компаниями ИИ и их спонсорами, они станут препятствием для венчурных капиталистов с международными портфелями, - добавляет он.
Неопределенное будущее
Ограничения на исходящие инвестиции вступят в силу 2 января 2025 года, а тем временем Министерство финансов дало понять, что некоторые небольшие изменения все еще находятся на пути к дальнейшему прояснению правил. Чиновники также заявили, что прилагают усилия для координации с союзниками США, такими как страны G7, чтобы ввести аналогичные меры, которые не позволят китайским компаниям ИИ обращаться к венчурным капиталистам в Европе, Канаде или Японии относительно видов инвестиций, запрещенных в США.
Самая большая неопределенность сейчас заключается в том, как второе президентство Трампа может изменить ситуацию. Данцман отмечает, что многие члены сообщества венчурного капитала, которые поддерживали Трампа, выступают против тех видов регулирования, которые вводит Министерство финансов, поэтому они потенциально могут попытаться лоббировать Президента, чтобы отменить их. Несколько крупных американских компаний, таких как Tesla и Blackstone, — обе возглавляемые миллиардерами, откровенно поддерживающими Трампа, — имеют значительные инвестиции в Китае и могут столкнуться с негативным влиянием на их бизнес из-за более жестких ограничений.
Другие эксперты, с которыми говорил Wired, ожидают, что новая республиканская администрация, в которую, как ожидается, войдут ряд ястребов, таких как Рубио, расширит сферу действия правил. «Возможно, мы увидим новый Указ. Или, учитывая единое республиканское правительство, возможно, расширение будет происходить посредством законодательных действий», — говорит Килкриз. Это может означать больше мер, нацеленных на другие виды китайских стартапов в секторах от биотехнологий до аккумуляторов.
Технологическая политика администрации Байдена в отношении Китая определялась, по крайней мере в принципе, идеей «маленького двора, высокого забора» или, другими словами, обозначением относительно узких зон, где правительство США может устанавливать очень строгие ограничения. Последняя версия правил исходящих инвестиций является примером того, как эта идея выглядит в действии. Но при Трампе китайские компании могут в конечном итоге увидеть, насколько большим может стать двор на самом деле.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/tramp_si_ii
07.11.2024 Трамп и ИИ
Своей победой на выборах Президента США Дональд Трамп не только изменил политический ландшафт, но и, вероятно, изменит технологический ландшафт в США и во всем мире.
Трамп, который в прошлом выражал скептицизм по поводу технологии искусственного интеллекта (ИИ), заставил лидеров отрасли ИИ с оптимизмом смотреть в будущее.
Трамп не является сторонником регулирования компаний, связанных с разработкой ИИ. В ходе своей предвыборной кампании он раскрыл несколько планов по значительному изменению экосистемы ИИ в Соединенных Штатах и за их пределами.
Одно из ключевых политических решений, ожидаемых в отрасли, связано с ослаблением регулирования ИИ согласно указу президента Байдена от 2023 года. Трамп обещал отменить этот Указ после прихода к власти.
Одна из основных целей политики — обеспечить соблюдение строгих правил и стандартов компаниями, работающими с искусственным интеллектом. Указ был направлен на предотвращение неправильного использования, распространения недостоверной информации и возможных опасных последствий для общества в некоторых важных сферах.
Wedbush Securities, одна из ведущих в Соединенных Штатах компаний по управлению активами, брокерским услугам и консультированию сообщила своим клиентам, что победа республиканцев должна привести к росту акций технологических компаний и искусственного интеллекта.
Теперь уже бывшая вице-президент Камала Харрис занималась вопросами развития ИИ при администрации Байдена, и именно тогда индустрия ИИ столкнулась с указами и аналогичной политикой.
По данным Axios, существуют факторы, которые, вероятно, будут препятствовать федеральным усилиям по установлению ограничений на технологии искусственного интеллекта. Одна из них заключается в том, что традиционные республиканцы всегда выступали за невмешательство и враждебно относились к регулированию искусственного интеллекта.
Несмотря на то, что Трамп пригрозил посадить Генерального директора Meta (организации, запрещенной на территории РФ) Марка Цукерберга в тюрьму за возможное вмешательство в выборы и обвинил Google в возможной неработоспособности из-за «сфальсифицированных» результатов поиска, лидеры технологической отрасли выстраиваются в очередь, чтобы поздравить лидера с победой.
Основатель Amazon Джефф Безос воспользовался соцсетью X (бывший Twitter), чтобы передать свои пожелания новоизбранному Президенту и сказал: «Ни у одной страны нет больших возможностей. Желаю Дональду Трампу всяческих успехов в руководстве и объединении Америки, которую мы все любим».
Генеральный директор OpenAI Сэм Альтман выразил свои дипломатические пожелания Трампу и сказал: «Крайне важно, чтобы США сохранили лидерство в разработке ИИ на основе демократических ценностей». Тем временем генеральный директор Microsoft Сундар Пичаи также выразил свою поддержку и сказал: «Мы находимся в золотом веке американских инноваций и стремимся работать с его администрацией, чтобы принести пользу всем».
Во время президентства Трамп признал важность ИИ и даже подписал указ в 2019 году о содействии развитию ИИ. В этом году во время своей избирательной кампании он использовал ИИ для создания новой версии своей политической речи и поделился своими впечатлениями от этого процесса.
Рауль Бренс-младший, исполняющий обязанности Старшего директора GeoTech Center, Atlantic Council, сказал: «Вторая администрация Трампа, вероятно, наметит иной курс в отношении ИИ, нежели тот, который был взят за последние четыре года. Трамп исторически выступал за ограниченное государственное регулирование. Он считает, что ИИ помогает повысить конкурентоспособность Соединенных Штатов, особенно по сравнению с Китаем».
Вопреки политике Байдена, союзники Трампа из American First Policy Institute подготовили проект и намерены создать указ в стиле «Манхэттенского проекта» для продвижения технологий искусственного интеллекта, особенно в оборонном секторе.
Некоторые из самых влиятельных имен в индустрии ИИ считают, что отмена Указа Байдена может открыть рынок для беспрецедентного уровня инноваций, что принесет пользу технологическому прогрессу и экономике. Отсутствие запретов также может увеличить инвестиции в экосистему ИИ.
В последние несколько месяцев Марк Андрессен и Бен Хоровиц, основатели AI 6z, также выразили свою поддержку Дональду Трампу. Оба они пожертвовали по 2,5 миллиона долларов «Right for America», комитету политических действий в поддержку Дональда Трампа. Андрессен считает, что политика Трампа благоприятна для крупных технологических компаний и развития ИИ.
В подкасте, ведущими которого выступили оба лидера, Горовиц сказал: «Будущее нашего бизнеса, будущее новых технологий и будущее Америки буквально поставлено на карту. Поэтому мы здесь, и мы считаем, что для небольшого технологического сектора Дональд Трамп на самом деле является правильным выбором».
Питер Тиль, основатель PayPal и известный венчурный капиталист, несколько месяцев назад заявил: «Даже если вы приставите пистолет к моему виску, я проголосую за Трампа».
Кристал Маккеллер, основатель Aloft VC, в интервью, опубликованном за день до результатов выборов, заявила: «Они (Трамп и Джей Ди Вэнс) не просто отменят правила, которые душат американскую промышленность, но на самом деле намерены активно внедрять политику, которая будет стимулировать рост и поощрять инновации».
Победа Трампа — «позитивный момент» для бизнеса в сфере искусственного интеллекта, сказал Рэй Ву, Управляющий партнер венчурной компании Alumni Ventures из Кремниевой долины, отметив, что продвижение инноваций в сфере ИИ требует мягкого подхода к регулированию.
«Эта отрасль еще очень молода», — сказал Ву. «Наличие четких инструкций очень полезно, так что, по крайней мере, есть ограждение. Однако слишком много деталей на этой ранней стадии станет тормозящей силой».
Критики Указа, такие как республиканка Нэнси Мейс (от Южной Каролины), утверждают, что требования к отчетности о раскрытии информации о своих протоколах безопасности следует отменить, поскольку они «могут отпугнуть потенциальных новаторов и помешать новым прорывам типа ChatGPT».
По словам Санджая Патнаика, директора Центра регулирования и рынков Брукингского института, Трамп «вероятно, попытается снизить любое нормативное бремя или любые новые правила для компаний, занимающихся ИИ».
Патнаик отметил, что если это произойдёт, то у небольших стартапов в сфере искусственного интеллекта появится хорошая возможность для развития.
Трамп назвал политику Байдена в области ИИ «опасной» и заявил, что она препятствует инновациям. Трамп обещал, что заменит ее «разработкой ИИ, основанной на свободе слова», повторив критику других республиканцев в адрес усилий Байдена по обеспечению справедливого использования ИИ и отсутствия алгоритмической предвзятости.
«В некоторых правых политических кругах безопасность рассматривается как синоним цензуры», — сказал Грегори Аллен, директор Центра искусственного интеллекта Вадхвани в Центре стратегических и международных исследований.
Некоторые аспекты плана Байдена по развитию ИИ могут остаться неизменными и продолжить осуществляться, включая его цель по созданию более обширной инфраструктуры в этой области. В то же время кампания Трампа подчеркнула необходимость расширения энергетических мощностей США для сохранения конкурентоспособности в области ИИ, что может привести к ослаблению барьеров в получении разрешений на использование земли и электроэнергии, сказал Аллен.
Трамп может сохранить недавний меморандум Байдена, в котором ИИ становится приоритетом национальной безопасности, и который требует от агентств сохранить лидерство США, удерживая технологию, лежащую в его основе, подальше от противников, таких как Китай. Трамп также может предпринять действия по контролю экспорта, которые пойдут дальше текущих ограничений Байдена.
Пока не ясно, кого Трамп назначит руководителем политики ИИ, однако избранный вице-президент Дж. Д. Вэнс может сыграть важную роль, учитывая его опыт работы в Кремниевой долине. Вэнс уже выразил скептицизм по поводу регулирования, утверждая, что ограничения только усилят контроль крупных компаний ИИ над отраслью, одновременно подавляя более мелкие стартапы. Он также поддержал технологию с открытым исходным кодом, чтобы защититься от предполагаемой левой предвзятости в моделях ИИ.
Антимонопольное правоприменение
Вторая администрация Трампа может быть более благосклонна к деловым связям, но, скорее всего, продолжит агрессивное преследование антимонопольных дел в отношении крупных технологических компаний.
Председателю Федеральной торговой комиссии Лине Хан будет предложено уйти в отставку, что позволит Трампу назначить третьего республиканца в агентство. Тем временем он, скорее всего, выберет одного из действующих членов агентства от Республиканской партии — Эндрю Фергюсона или Мелиссу Холиоук — в качестве исполняющего обязанности Председателя. Главные антимонопольные должностные лица Министерства юстиции, включая назначенца Байдена Джонатана Кантера, также уйдут в отставку, оставив Агентство в руках кадровых сотрудников, пока кандидаты Трампа не встанут у руля.
Похоже, что оба этих агентства будут продолжать подавать иски против технологических гигантов. Некоторые компании, такие как Amazon.com, которая столкнулась с антимонопольным иском, направленным на ее основной бизнес электронной коммерции, могут попытаться урегулировать ситуацию с новыми лидерами. Возможно, другие дела о монополиях будут изменены или урегулированы, в том числе через судебные процессы, включая судебные иски Министерства юстиции против Live Nation Entertainment Inc. и Visa Inc.
Республиканцы в Федеральной торговой комиссии (FTC) могут отказаться от работы агентства над правилами, которые продвигала администрация Байдена, особенно если речь идёт о приоритетах, с которыми не согласны члены Республиканской партии. Хотя такой шаг кажется радикальным и маловероятным, администрация Трампа может просто прекратить все дела времён президентства Байдена, которые ей не нравятся.
Наибольший сдвиг может произойти в подходе агентств к слияниям. Хотя первая администрация Трампа оспаривала некоторые громкие сделки, такие как покупка Visa финтех-стартапа Plaid Inc., в целом она использовала более мягкий подход, часто позволяя крупным сделкам проходить с определёнными условиями.
Некоторые крупные компании, рассматривающие возможность заключения сделок, включая Qualcomm Inc. и гигантов медицинского страхования Cigna Group и Humana Inc., отложили завершение предлагаемых сделок до окончания выборов, надеясь на более благоприятное отношение со стороны новой администрации.
Отмена запрета TikTok
Трамп заявил, что выступает против запрета TikTok, что является отходом от его позиции первого срока, когда он подписал Указ, требующий закрытия популярного приложения, если его китайский владелец ByteDance Ltd. не продаст свои активы. Неясно, как он собирается уберечь платформу от исполнения нового федерального закона — теперь связанного с судебным разбирательством — который запретит TikTok, если продажа не состоится до 19 января 2025 года, за день до его инаугурации.
Избранный Президент теперь видит в приложении для обмена видео реального конкурента Meta, которая вызвала его гнев, запретив ему доступ к своим приложениям после того, как его сторонники атаковали Капитолий США 6 января 2021 года. Согласно данным Pew Research, опубликованным в сентябре, американцы сейчас меньше поддерживают возможный запрет, чем год назад: всего 32% высказались за, что ниже 50% в марте 2023 года.
Полупроводники и экспортный контроль
Победа Трампа вносит значительную неопределенность в политику США в области полупроводников. При Байдене политика была направлена на выделение десятков миллиардов долларов на развитие внутреннего производства микросхем и использование торговых и инвестиционных ограничений для противостояния Китаю в сфере производства важнейших электронных компонентов.
Трамп раскритиковал Закон о микросхемах и науке 2022 года — знаменательный двухпартийный закон, который ускорил инвестиции со стороны таких компаний, как Intel Corp. и Taiwan Semiconductor Manufacturing Co. (о последней было объявлено во время первого срока Трампа).
Он предположил, что введение тарифов на иностранные микросхемы будет более эффективным, чем предоставление субсидий для развития американского производства полупроводников. Это вызвало беспокойство среди представителей отрасли, опасающихся, что новая администрация попытается изменить предыдущие решения, принятые в рамках Закона о микросхемах. Это усиливает давление на должностных лиц администрации Байдена, которые стремятся достичь обязательных соглашений с компаниями до того, как Президент покинет свой пост.
В международной сфере Трамп пообещал ввести масштабные пошлины на китайский экспорт и, вероятно, увеличит пошлины на чипы старого поколения, которые Байден поднял до 50%. Возможно, Трамп усилит ограничения на экспорт передовых полупроводников, так как эта политика была начата ещё в первый президентский срок Трампа. Однако дипломаты и представители отрасли ожидают различных вариантов развития событий, учитывая изменчивый характер внешней политики Трампа.
Возможно, самый большой вопрос заключается в том, как Трамп подойдет к Тайваню, бьющемуся сердцу мировой индустрии чипов. Он заявил, что Тайвань «украл» полупроводниковый бизнес США, и утверждал, что остров должен платить больше за собственную безопасность. Ставки огромны: китайское вторжение на Тайвань — где производится более 90% передовых чипов — нанесет удар по мировой экономике на сумму 10 триллионов долларов, согласно оценкам Bloomberg Economics.
Планы Трампа по использованию ИИ для усиления оборонного и военного потенциала Соединенных Штатов могут привести к значительным изменениям в частном секторе.
***
«Чем дальше в лес. Тем толще партизаны».
С каждым днем вскрываются совершенно неожиданные слагаемые победы Трампа.
Просматривается тенденция, при которой новая «цифровая элита» не желает жить по правилам заскорузлого «глубинного государства».
Питер Тиль через своего ставленника Вэнса и Илон Маск возглавили РЕВОЛЮЦИЮ РЕГУЛИРОВАНИЯ ИИ В АМЕРИКЕ.
Возглавили и победили.
Тем более, что и Пентагон, и американские спецслужбы скорее были на их стороне.
Всем нужна ПОЛИТИКА БЫСТРЫХ ИЗМЕНЕНИЙ.
Все отрицают БЮРОКРАТИЮ В ЦИФРОВОМ РАЗВИТИИ.
Трамп стал именно тем тараном, которым и воспользовались в преобразовании американской системы управления.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/tramp_i_ii
27.10.2024 ИИ для войны с Китаем и Россией
Новый меморандум Байдена
24 октября 2024 года президент США Байден обнародовал «Меморандум о развитии лидерства США в области искусственного интеллекта; использовании искусственного интеллекта для достижения целей национальной безопасности; повышения безопасности, защищенности и надежности искусственного интеллекта».
Белый дом поручает Пентагону и разведывательным службам активизировать внедрение ИИ, расширяя усилия администрации Байдена по сдерживанию технологической конкуренции со стороны Китая, России и других противников.
«Это первая в истории нашей страны стратегия по использованию возможностей и управлению рисками ИИ для укрепления нашей национальной безопасности», — заявил 24 октября советник по национальной безопасности Джейк Салливан, выступая перед военнослужащими и другими лицами в Национальном университете обороны.
Салливан назвал скорость изменений в сфере ИИ «захватывающей» и сказал, что она может оказать влияние на самые разные области — от ядерной физики до ракетостроения и технологий скрытности.
В меморандуме по национальной безопасности говорится, что государственные учреждения не должны использовать ИИ для обхода существующих мер контроля над ядерным оружием.
Меморандум о национальной безопасности был написан в продолжение обширного указа об ИИ, подписанного президентом Джо Байденом в 2023 году.
В новом меморандуме правительству предписывается помогать американским компаниям защищать свои технологии ИИ от кражи иностранными шпионами и продолжать работу по диверсификации цепочки поставок высокопроизводительных компьютерных чипов, имеющих решающее значение для передовых проектов ИИ.
Джейк Салливан также заявил, что Соединенные Штаты в настоящее время являются лидером в плане «скрытых» возможностей, которые могут быть использованы в подобных миссиях, но Америка рискует упустить свое лидерство, если не будет действовать быстрее в плане оснащения своих вооруженных сил новыми инструментами.
«Главное понимание, к которому мы пришли за последние пару лет, заключается в том, что мы впереди, когда дело касается скрытых возможностей, у Соединенных Штатов лучшие скрытые возможности по ИИ в мире. Как нам превратить это в фактическое применение на поле боя, в нашей логистике, в нашей разведывательной деятельности?» — сказал Салливан.
«Меморандум предполагает составление дорожной карты, которая определяет как национальная служба безопасности, объединенные силы, разведывательное сообщество должны работать с партнерами из частного сектор» — сказал он.
Салливан добавил: «До принятия меморандума часть этой работы выполнялась разрозненно предприимчивыми людьми из различных служб. Но теперь у нас впервые есть структура, позволяющая сказать: мы хотим внедрить то, что вы предлагаете, мы хотим внедрить это быстро, эффективно, всесторонне и таким образом, чтобы сократить дублирование, пробелы и несостыковки».
Пентагон разрабатывает новые инструменты ИИ, надеясь внедрить новые технологии на всех уровнях огромной организации — от служебных помещений до полей сражений.
Салливан отметил, что приложения на базе ИИ изменят методы подготовки и ведения боевых действий вооруженных сил США. Однако правительственным чиновникам непросто прогнозировать, какую именно форму они примут и как быстро это произойдет.
«Итог: возможности уже есть, и скоро их станет больше. Поэтому мы должны воспользоваться ими быстро и эффективно, иначе это сделают наши противники», — сказал Салливан, добавив, что необходимы существенные технические, организационные и политические изменения, которые облегчат сотрудничество с новаторами, движущими развитие технологий.
Пентагону и спецслужбам поручено искать способы расширения сотрудничества с новыми поставщиками, такими как ведущие компании в области ИИ и облачных вычислений.
«На практике это означает быстрое внедрение самых передовых систем в агентства национальной безопасности сразу после их разработки, как это делают многие в частном секторе. Нам нужно добиться быстрого внедрения этих систем, которые итерируются и совершенствуются, как мы видим, каждые несколько месяцев», — сказал Салливан.
В новом меморандуме подчеркивается необходимость более скоординированных и эффективных систем закупок и снабжения в агентствах национальной безопасности, включая расширение возможностей оценки, определения и формулирования требований, связанных с ИИ, а также большую доступность для компаний, у которых нет значительного опыта работы с госструктурами.
Руководству Министерства обороны и Управления директора национальной разведки предписывается в сотрудничестве с Управлением по бюджету Белого дома и другими агентствами в течение 30 дней создать рабочую группу для рассмотрения вопросов, связанных с закупкой технологий ИИ Министерством обороны и разведывательным сообществом, а также разработать новые рекомендации по их приобретению для использования в системах национальной безопасности.
В течение 210 дней с момента выпуска меморандума рабочей группе поручено предоставить Федеральному совету по регулированию закупок письменные рекомендации по изменению действующих правил.
Ранее Пентагон представил план внедрения «ответственного ИИ» и обновил свою политику в отношении автономного оружия. Оба эти документа призваны обеспечить гарантии того, что системы на базе ИИ не выйдут из строя после их принятия на вооружение.
В новом документе Белого дома изложен ряд проблем, связанных с внедрением технологий ИИ в системы национальной безопасности, включая риски для физической безопасности, конфиденциальности, дискриминации и предвзятости, ненадлежащего использования, отсутствия прозрачности и подотчетности, утечки данных, низкой производительности, а также преднамеренных манипуляций и неправомерного использования.
Операторы могут не полностью понимать возможности и ограничения инструментов ИИ, в том числе в боевых сценариях. Это может помешать им использовать соответствующие уровни человеческого суждения. Кроме того, недостаточные программы обучения и руководства могут привести к чрезмерной зависимости от этих типов систем, включая так называемую «автоматическую предвзятость», — отмечается в меморандуме.
«Системы ИИ могут раскрывать аспекты своих обучающих данных — либо непреднамеренно, либо посредством преднамеренной манипуляции со стороны злоумышленников — и утечка данных может возникнуть в результате обучения систем ИИ на секретной или контролируемой информации при использовании в сетях, где такая информация не разрешена», — говорится в меморандуме. Кроме того, «иностранные государственные конкуренты и злоумышленники могут намеренно снижать точность и эффективность систем ИИ или пытаться извлечь конфиденциальную информацию из таких систем».
В течение 180 дней с момента выпуска меморандума главам Министерства обороны, разведсообщества и других соответствующих агентств поручено обновить руководящие указания для своих подразделений по управлению ИИ и управлению рисками для систем национальной безопасности, которые впоследствии будут ежегодно пересматриваться и обновляться по мере необходимости.
Структура по совершенствованию управления ИИ и управления рисками в сфере национальной безопасности должна быть одобрена Комитетом заместителей СНБ и периодически пересматриваться для определения необходимости внесения изменений для устранения рисков, указанных в меморандуме.
Некоторые направления использования ИИ Пентагоном и разведсообществом США
Командование ВС США в Индо-Тихоокеанском регионе планирует закупить широкий спектр коммерческих данных и аналитики на основе ИИ
Вооруженные силы США готовы заключить многолетний контракт стоимостью около 3 миллиардов долларов на предоставление коммерческих услуг по сбору данных и аналитике для мониторинга потенциальных угроз в Индо-Тихоокеанском регионе, который является центром глобальной геополитики и приоритетным театром военных действий для Министерства обороны.
Программа, известная как «Дальняя корпоративная разведка, наблюдение и рекогносцировка» (LEIA), направлена на получение широкого спектра коммерческих данных и передовой аналитики на основе искусственного интеллекта, объединяющего информацию с наземных, воздушных и космических платформ.
Ожидается, что контракт LEIA будет заключен в конце 2024 года. Это открытый конкурс, и ожидается, что несколько фирм будут бороться за награду.
Программу координирует Командование специальных операций Тихоокеанского региона, которое оказывает поддержку Индо-Тихоокеанскому командованию ВС США (INDOPACOM).
Размер контракта отражает растущий спрос американских военных на коммерческие источники данных, такие как спутники визуализации и аналитика на основе ИИ для отслеживания и реагирования на потенциальные угрозы. INDOPACOM в заявке LEIA подчеркнуло потребность командиров в своевременной разведке, наблюдении и космических возможностях для поддержания ситуационной осведомленности в регионе.
Аппетит военных к аналитике данных на основе ИИ обусловлен проблемой информационной перегрузки , поскольку правительственные учреждения имеют все больший доступ к данным, но не обязательно к информации.
Космические силы США в ответ на эти потребности запустили пилотную программу под названием «Тактическое наблюдение, разведка и отслеживание» (TacSRT), разработанную для использования коммерческих космических возможностей для предоставления оперативной разведывательной информации и аналитики военным командирам. Программа использует веб-интерфейс под названием «Глобальный рынок данных» для рекламы и заключения краткосрочных контрактов на наблюдение, разведку и отслеживание с коммерческими поставщиками.
Пентагоновский проект «Replicator» соединяет на основе ИИ морские и воздушные рои дронов
В проекте «Replicator» задействованы группы дронов, работающих согласованно с различными уровнями автономности и вычислениями на базе ИИ в различных областях.
Покрытие вражеских территорий с помощью наблюдения, тестирование или «глушение» вражеской ПВО, патрулирование прибрежных районов с поверхности по периметру вражеской территории, запуск роевых атак беспилотников для подавления вражеской обороны и даже уничтожение вражеских беспилотников... — это лишь некоторые из возможных задач, которые ожидаются от развивающейся программы Пентагона по созданию беспилотных систем «Replicator».
Проект «Replicator», который разрабатывается уже несколько лет, включает в себя группы беспилотников, работающих согласованно с различными уровнями автономности и вычислениями на основе ИИ в различных областях. По словам заместителя министра обороны Кэтлин Хикс, в последние месяцы проект «Replicator» вошел в ускоренную фазу своей разработки.
Хикс объяснила, что первоначальное производство призвано ускорить реализацию нескольких ключевых концепций эксплуатации, включая уничтожение вражеских беспилотников, действия на поверхности океана и просто полеты в воздухе с различных базовых платформ.
«Первый транш возможностей Replicator включает беспилотные надводные аппараты (USV), беспилотные воздушные системы (UAS) и противобеспилотные воздушные системы (c-UAS) различных размеров и полезной нагрузки от нескольких традиционных и новых поставщиков», — говорится в заявлении Пентагона.
В целом, тактические элементы Replicator описаны разработчиками оружия Пентагона в терминах «All-Domain-Attritable-Autonomy» (ADA2), концепции, продвигающей оперативное использование недорогих, но сетевых и скоординированных групп беспилотных систем, выполняющих миссии в нескольких доменах бесшовным и высокоскоростным образом. Один из ключевых элементов беспилотных сил, вероятно, включает усилия по созданию эксплуатационной устойчивости путем проектирования небольших, недорогих беспилотников, которые могут быть потеряны с небольшим негативным последствием. Простая избыточность также является частью этого уравнения, учитывая, что большое количество беспилотников или «узлов» ISR или оружия могут одновременно предоставлять несколько источников данных и обеспечивать непрерывную функциональность миссии в случае уничтожения или перехвата некоторых беспилотников.
Например, заданная область противника может быть одновременно покрыта несколькими узлами, использующими разные векторы наблюдения, и вражеские цели могут отслеживаться, атаковаться и уничтожаться несколькими ударами с разных углов. Еще один полезный элемент стратегии избыточности можно просто описать в терминах использования Пентагоном слова «истощаемый». Это означает, что миссия может эффективно продолжаться в случае, если некоторые узлы в группе или рое будут уничтожены или выведены из строя в результате атак противника.
Операционная сфера Replicator, вероятно, берет свое начало в нескольких ключевых программах развития в военных службах, таких как инициатива ВМС США Ghost Fleet Operation Overlord. Начавшись как проект Управления военно-морских исследований, программа Ghost Fleet в последние годы неуклонно развивалась до точки, в которой большие группы USV, воздушных беспилотных летательных аппаратов и более крупных беспилотных платформ могут все больше работать автономно, координируя свои действия друг с другом.
Усовершенствованные алгоритмы теперь позволяют группам наземных и воздушных беспилотных летательных аппаратов собирать, обрабатывать и передавать ключевые критически важные данные — и вносить некоторые коррективы — без необходимости вмешательства человека.
Детали нацеливания, перемещения противника и тактические корректировки могут выполняться автономно через группу узлов одновременно, используя высокоскоростные вычисления, зондирование с высоким разрешением и передовые алгоритмы с поддержкой ИИ. Конечно, смертоносная сила по-прежнему будет определяться «человеком» в цикле, однако эта тактическая концепция, включающая «скоординированные» группы беспилотных систем, значительно улучшает и ускоряет оперативные возможности для командиров военного времени.
Большая часть прогресса Ghost Fleet связана с малыми и средними по размеру надводными и воздушными беспилотниками, такими как беспилотные надводные суда, способные искать мины и подводные лодки, наблюдать за зонами высокого риска или даже совершать атаки... Однако в последние годы усилия стали более многодоменными и значительно расширились для координации с узлами, способными перемещаться под водой, и большими надводными беспилотниками, такими как средние и большие беспилотные надводные транспортные средства ВМС.
Теперь, с Replicator, рои мини-дронов могут работать в разных доменах, координируя действия друг с другом. Поведение роения — это то, над чем Пентагон работает уже довольно давно, поскольку учёные Министерства обороны начали изучать естественное поведение роения птиц, чтобы помочь разработать алгоритмы для беспилотников. Практика, которую ведущие исследователи Пентагона называют «биомеметикой», направлена на разработку компьютерных алгоритмов, основанных в некоторой степени на биологических явлениях.
Что касается воздушной составляющей Replicator, Хикс сообщила, что Пентагон ускорит поставку барражирующего боеприпаса Switchblade-600, производимого компанией AeroVironment Inc. из Сими-Вэлли, штат Калифорния. Поставляемые США беспилотники Switchblade уже продемонстрировали высокую смертоносность и эффективность на Украине, а системы наведения и возможности барражирования были модернизированы, чтобы предоставить американским силам дополнительные возможности.
Очевидно, что многопрофильные элементы новой программы «Replicator» вызывают большой интерес у командования боевых сил США в Тихоокеанском регионе.
Стартап Saronic представляет Пентагону новейшее, крупнейшее беспилотное судно с прицелом на массовое производство
Компания планирует выпустить «сотни» новых беспилотников, начиная со следующего года, и генеральный директор Дино Маврукас хочет, чтобы они стали доступны, как только контракты с ВМС «наверстают упущенное».
Стартап в сфере оборонных технологий Saronic 23 октября 2024 года объявил о запуске своего новейшего автономного надводного судна под названием Corsair — третьего и крупнейшего беспилотного морского судна компании, призванного удовлетворить потребность Пентагона в серийном производстве одноразовых беспилотников.
Новое беспилотное судно имеет длину 7,3 метра и, по данным компании, может пройти 1850 км с максимальной скоростью 65 км в час и грузоподъемностью 455 кг. Saronic также выпускает 2 – х метровые и 4-х метровые модели судов, которые, как описывают их представители компании, соответствуют будущему видению ВМС США гибридного пилотируемого/беспилотного флота.
Дино Маврукас, соучредитель и генеральный директор компании Saronic, сообщил журналистам перед публичным заявлением, что компания уже планирует построить «сотни» новых судов, чтобы «удовлетворить прогнозируемый спрос», не называя при этом никаких конкретных сделок.
«Мы строим пять прототипов, все они в настоящее время находятся в разработке», — сказал он. «Мы уже провели живые демонстрации с конечными пользователями, и мы движемся и входим в высокопроизводительное производство и изготовление. Так что в 2025 году мы будем строить сотни и сотни Corsair с возможностью масштабирования до тысяч».
Стартап, созданный в 2022 году, в основном сосредоточил свои усилия на разработке и производстве беспилотных надводных судов, косвенно ориентированных на инициативу Пентагона Replicator , направленную на массовое производство недорогих беспилотных дронов, которые можно было бы использовать в борьбе с Китаем.
Разведка на основе открытых источников (OSINT) функционирует на базе ИИ
В марте 2024 года Управление директора национальной разведки (ODNI) и Центральное разведывательное управление (ЦРУ) опубликовали Стратегию разведывательного сообщества (IC) по разведке на основе открытых источников (OSINT) на 2024–2026 годы.
OSINT, или разведданные, полученные исключительно из общедоступной или коммерчески доступной информации, которая касается конкретных приоритетов разведки, требований или пробелов, жизненно важны для миссии IC, предоставляя уникальную ценность. Учитывая обширную и развивающуюся среду с открытым исходным кодом, IC работает над модернизацией своего подхода к созданию OSINT.
«Стратегия разведки в открытых источниках (OSINT) IC представляет собой начало долгосрочного процесса, который сделает дисциплину OSINT профессиональной, трансформирует анализ и производство разведывательной информации и создаст новые возможности для партнерства с блестящими американскими новаторами и единомышленниками из других стран», — заявила директор Национальной разведки Эврил Хейнс.
«Как функциональный менеджер IC по OSINT, я знаю, какую важную роль OSINT играет в защите нашей страны и ценностей», — сказал директор ЦРУ Уильям Бернс. «В этот решающий момент, когда OSINT становится все более важным и востребованным, общесистемная стратегия OSINT является ключом к тому, чтобы помочь IC двигаться вперед скоординированным и решительным образом».
Стратегическими направлениями деятельности OSINT являются:
Координация получение данных из открытых источников и расширение обмена ими;
Создание интегрированного управления коллекциями данных с открытым исходным кодом;
Внедрение инноваций в OSINT для предоставления новых возможностей;
Развитие рабочей силы и навыков OSINT нового поколения.
Армия США приступает к разработке стратегии OSINT до 2040 года.
Выступая на мероприятии Federal News Network 15 октября, Деннис Эгер, старший советник по разведке на основе открытых источников в армии США, сказал, что существующая стратегия разведки на основе открытых источников, выпущенная в 2023 году, фокусируется на увеличении обучения с использованием открытого исходного кода. Крайний срок завершения этой стратегии — 2030 год, и около 90% ее задач уже выполнены.
Цели следующей стратегии включают в себя:
продолжение концентрации внимания на обучении;
создание архитектуры OSINT, которая может быть интегрирована в более широкую архитектуру армейской разведки;
модернизацию;
быстрое предоставление OSINT на «тактическом краю», включая боевые командования;
рассмотрение возможностей ИИ и интеграции больших языковых моделей.
Эгер сообщил, что помимо изучения систем ИИ для языкового перевода армия также изучает генеративные системы ИИ для обобщения и анализа отчетов OSINT, а также для обнаружения ложной информации и дезинформации.
Другие приоритеты OSINT включают разработку «идентификатора навыков» — специального кода, который человек может получить после завершения обучения OSINT, который обозначает обучение, полученное солдатом. Эгер сказал, что после работы над идентификатором некоторое время он находится на стадии «финального укомплектования» и ожидает одобрения уже в ноябре 2024 года.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_dlya_vojni_s_kitaem_i_rossiej
17.10.2024 "Осталось несколько лет". Судьба человечества решится не там, где все ждут.
Автопилоту Tesla пришлось выбирать между жизнью пешехода и пассажиров
Суперкомпьютер © Fotolia / vladimircaribb
МОСКВА, 17 окт — РИА Новости, Захар Андреев. Технологические гиганты вступили в настоящую "гонку вооружений" в сфере искусственного интеллекта. В разработку вкладывают огромные ресурсы. При этом крупнейшие игроки делятся на два условных лагеря с принципиально разной идеологией. От того, кто победит, возможно, зависит будущее всей цивилизации.
Почти все главные научно-технические новости октября связаны с искусственным интеллектом. За нейросети дали сразу две Нобелевки: по физике — за разработку математических основ машинного обучения, по химии — за применение одной из таких систем в решении важной медицинской проблемы. И то и другое можно лишь с натяжкой отнести к физике и химии, но у Нобелевского комитета, кажется, просто не было других способов подчеркнуть растущую роль ИИ в современной жизни.
Также в начале месяца инноватор Илон Маск эффектно представил полностью беспилотное такси Cybercab от Tesla. У автомобиля, выполненного в футуристическом дизайне в стиле ар-деко, нет ни педалей, ни руля. По выражению Маска, это своеобразный аналог лифта, который умеет безопасно и надежно доставлять пассажиров к месту назначения без всякого лифтера, то есть водителя.
Таким образом, искусственный интеллект начинает менять реальный мир. Экспансия же в сетевом пространстве началась значительно раньше. И останавливаться не собирается. В мае компания OpenAI представила новое поколение программы ChatGPT. Одна из самых ярких способностей версии 4o — синхронный перевод, во время которого машина воспроизводит голос и интонации спикера со всеми нюансами. Фактически приложение стирает языковой барьер.
Широкому распространению мешает лишь то, что доступ к коммерческому чату ограничен: для кого деньгами, для кого — санкциями.
Илон Маск на предвыборном мероприятии кандидата в президенты США от республиканцев Дональда Трампа в городе Батлер © AP Photo / Alex Brandon
Тем не менее научное и медицинское применение нейросетей пока относится к области перспективных технологий. "Небытовой" ИИ в виде чатов или беспилотных такси все еще выглядит забавной игрушкой, без которой легко обойтись. Однако лидеры индустрии открыто заявляют: никто даже представить не может, насколько такие системы изменят нашу жизнь уже в ближайшее время. Несколько лет назад генеральный директор Google Сундар Пичай сравнил изобретение нейросетей с приручением огня или электричества. Сегодня эти громкие слова подкреплены многомиллиардными вложениями.
"К 2029-му превзойдет человечество"
Свой искусственный интеллект разрабатывают все крупнейшие IT-корпорации: Google, Tesla, Apple, Meta* и Amazon. Microsoft же серьезно вложилась в OpenAI — компании принадлежит 49 процентов акций разработчика ИИ. Все конкурируют друг с другом за кадры и стремительно наращивают мощности.
Так, Илон Маск только в этом году вложил в ИИ десять миллиардов долларов. Из этой суммы четыре пошли на чипы Nvidia для суперкомпьютера Dojo. Помимо прочего, умная машина обрабатывает данные с видеокамер, установленных на миллионах автомобилей Tesla по всему миру. На основе этой информации автопилот того же роботакси учится принимать правильные решения на дорогах. А чат-бот Grok и робот-андроид Optimus осваивают человеческое поведение на материале соцсети X (бывшей Twitter), также принадлежащей бизнесмену.
Беспилотное роботакси Cybercab от компании Tesla © Tesla
В свою очередь, Google на днях объявила, что будет первой компанией в мире, которая запитает технологии искусственного интеллекта от атомной энергии. Для этого закупит нескольких малых модульных реакторов от компании Kairos Power — пока они в стадии разработки. Наблюдатели отмечают: потребность в надежных генерирующих мощностях настолько высока, что технологические гиганты как-то забывают о переходе на возобновляемые источники тепла и света вроде солнечных панелей или ветряков.
Битва идет за будущий не только коммерческий, но и идеологический успех. Именно Маск с его технологической экосистемой с одной стороны и руководство Google — с другой выступают выразителями крайних взглядов.
Как ожидают отдельные эксперты, возможности цифрового разума уже в ближайшее время превзойдут человеческие. Такой гипотетический искусственный интеллект называют "общим" (artificial general intelligence, AGI). "Вероятно, в следующем году ИИ будет умнее любого человека. А к 2029-му — всех людей, вместе взятых", — написал Маск весной 2024 года. Главный вопрос в том, какие ограничения, а также, что не менее важно, какие ценности будут заложены в основу этой системы.
Суть спора изложил биограф Маска Уолтер Айзексон. В книге он описывает разговор между предпринимателем и одним из основателей Google Ларри Пейджем, состоявшийся в 2013-м на вечеринке по случаю дня рождения Илона.
Основатель Tesla и SpaceX утверждал: если не принять вовремя необходимые меры, то господство ИИ приведет к исчезновению человечества — "драгоценной искры света во Вселенной". Пейдж, по выражению Айзексона, считал это "сентиментальной чепухой" и обвинял Маска в "видизме" — ангажированности в пользу своего биологического вида.
"Ну и что? — спрашивал Ларри. — Если сознание можно воссоздать в машине, почему не ценить его в той же мере? Это просто выведет нас на новую ступень эволюции".
Разработчик и сооснователь поисковой системы Google Ларри Пейдж © AP Photo / Seth Wenig
Кроме того, Маск обвиняет конкурентов из Google и OpenAI в том, что разрабатываемый ими ИИ подчинен леволиберальной идеологии так называемого вокеизма, суть которого передает аббревиатура DEI (diversity, equity and inclusion — разнообразие, равенство и инклюзивность). Эти ценности, считает Маск, для сторонников вокеизма важнее всего, в том числе объективной истины и даже человеческой жизни.
В пользу теории говорит недавний скандал: пользователи заметили, что нейросеть Gemini от Google генерировала портреты исторических личностей (например, нацистов и отцов-основателей США), изображая их с разнообразным цветом кожи и полом.
"Если ИИ запрограммирован на то, чтобы любой ценой добиваться разнообразия, как это было с Gemini, то он сделает все возможное, чтобы достичь этого результата, потенциально даже убивая людей", — написал Маск в Х в марте.
Бизнесмен заявляет, что его компании разрабатывают искусственный интеллект, который, во-первых, нацелен на поиск объективной истины, а во-вторых, будет соблюдать законы робототехники. Эти постулаты сформулировал писатель-фантаст Айзек Азимов. Они сводятся к тому, что машина не должна причинять вред человеку "действием или бездействием". Но, как показал недавний инцидент, здесь тоже не все так просто.
Как передает портал Avtoevolution, недавно автомобилю Tesla S на автопилоте пришлось разбираться с пресловутой "проблемой вагонетки". Прямо перед машиной на проезжую часть упал человек. Робот моментально принял решение выехать на встречную полосу, где лоб в лоб столкнулся с другой легковушкой. С одной стороны, пешеход был спасен, а с другой — жизни пассажиров обеих машин подверглись угрозе.
Таким образом, даже если в "генетический код" ИИ заложат самые благие намерения, рано или поздно машинный разум все равно попадет в ситуации, когда хороших решений попросту не существует. С учетом растущих возможностей подобных систем они будут играть все большую, а в конечном итоге и определяющую роль в жизни людей. И пока ни у кого нет ответа на вопрос, сможет ли нечеловеческий интеллект вырулить в правильную сторону, если на кону окажется не одна-две жизни, а судьба всего вида Homo sapiens.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.
Захар Андреев
https://ria.ru/20241017/ai-1978384768.html
27.09.2024 ИИ может стать основанием для отмены результатов президентских выборов в США
Алгоритмы и нейросети как орудия политической борьбы
The Atlantic опубликовал статью Натана Э. Сандерса и Брюса Шнайера «ИИ все еще может сорвать президентские выборы» (24.09.2024).
The Atlantic выкуплен лучшей подругой Камалы Харрис – женой покойного основателя Apple Стива Джобса - Лорен Пауэлл Джобс.
Поэтому статья начинается с описания опасностей в использовании ИИ в предвыборной борьбе со стороны сторонников Трампа:
«В течение многих лет ИИ подрывал способность общества доверять тому, что оно видит, слышит и читает. Национальный комитет Республиканской партии выпустил провокационную рекламу, предлагающую «сгенерированный искусственным интеллектом взгляд на возможное будущее страны в случае переизбрания Джо Байдена», демонстрируя апокалиптические машинные изображения разрушенных городских пейзажей и хаоса на границе.
Поддельные автоматические звонки, якобы от Байдена, призвали жителей Нью-Гэмпшира не голосовать на первичных выборах 2024 года.
Этим летом Министерство юстиции США расправилось с российской ботофермой, которая использовала ИИ для выдачи себя за американцев в социальных сетях, а OpenAI нарушила работу иранской группы, использующей ChatGPT для создания поддельных комментариев в социальных сетях.
Не совсем ясно, какой ущерб может нанести сам ИИ, хотя причины для беспокойства очевидны — эта технология облегчает злоумышленникам создание очень убедительного и вводящего в заблуждение контента. Учитывая этот риск, наблюдается некоторое движение в сторону ограничения использования ИИ, но прогресс был мучительно медленным в той области, где он может иметь наибольшее значение: выборы 2024 года».
Два года назад администрация Байдена опубликовала проект Билля о правах ИИ (куратором разработки этого проекта была, как сейчас стало известно, Камала Харрис – Е.Л., В.О.), направленный, среди прочего, на борьбу с «небезопасными или неэффективными системами», «алгоритмической дискриминацией» и «неправомерной практикой работы с данными». Затем, в 2023 году, Байден опирался на этот документ, когда издал свой указ об искусственном интеллекте (этот документ тоже готовился под началом Харрис – Е.Л., В.О.). Также в 2023 году лидер большинства в Сенате Чак Шумер провел в Вашингтоне саммит по искусственному интеллекту, в котором приняли участие миллиардеры Билл Гейтс, Марк Цукерберг и Илон Маск. Несколько недель спустя в Соединенном Королевстве состоялся международный саммит по безопасности ИИ, который привел к принятию серьезно звучащей «Декларации Блетчли», призывающей к международному сотрудничеству в области регулирования ИИ. Риски фальсификаций с помощью ИИ на выборах никто не заметил.
Тем не менее, ничто из этого не привело к изменениям, которые могли бы решить проблему использования ИИ в политических кампаниях в США.
25 июля 2024 года Федеральная комиссия по связи США (Federal Communications Commission) выступила с предложением, согласно которому политическая реклама на телевидении и радио должна раскрывать информацию о том, использует ли она ИИ. (Федеральная комиссия по связи США (FCC) не обладает юрисдикцией в отношении потоковой передачи, социальных сетей или веб-рекламы.) Это кажется шагом вперед, но есть две большие проблемы.
Во-первых, предлагаемые правила, даже если они будут приняты, вряд ли вступят в силу до начала досрочного голосования на выборах в этом году.
Во-вторых, предложение сразу же превратилось в партизанскую перепалку. Республиканский комиссар FCC заявил, что Национальный комитет Демократической партии организует изменение правил, потому что демократы отстают от Республиканской партии в использовании ИИ на выборах. Кроме того, он утверждал, что это - работа Федеральной избирательной комиссии.
Тем не менее, в августе 2024 года Федеральная избирательная комиссия объявила, что она даже не будет пытаться разработать новые правила против использования ИИ для выдачи себя за кандидатов в предвыборной рекламе с помощью аудио или видео, с помощью дипфейка. FEC также заявила, что у нее нет законных полномочий для принятия правил об искажении фактов с использованием аудио или видео. Кроме того, FEC посетовала, что ей в любом случае не хватает технических знаний для этого. Затем, уже в сентябре 2024 года, Федеральная избирательная комиссия пошла на компромисс, объявив, что намерена применять свои существующие правила против мошеннического искажения фактов независимо от того, с помощью какой технологии это происходит.
Сторонники более строгих правил в отношении ИИ в предвыборной рекламе, такие как Public Citizen, не сочли этого достаточным, охарактеризовав как «выжидательный подход» к борьбе с «избирательным хаосом».
Возможно, этого и следовало ожидать: свобода слова, гарантированная Первой поправкой к Конституции США, в целом разрешает ложь в политической рекламе. Но американская общественность дала понять, что хотела бы ввести некоторые правила, регулирующие использование ИИ в кампаниях.
В 2024 году около половины опрошенных американцев заявили, что, по их мнению, политические кандидаты, которые намеренно манипулируют аудио, изображениями или видео, должны быть отстранены от должности, если они выиграли выборы.
Основная проблема заключается в том, что Конгресс четко не возложил на какое-либо ведомство ответственность за то, чтобы политическая реклама основывалась на реальности, будь то продукт ИИ или старомодные формы дезинформации.
FCC несет ответственность за регулирование политической рекламы, но только в определенных средствах массовой информации: трансляциях, автоматических звонках, текстовых сообщениях. Однако, со временем FCC фактически ослабила правила в отношении политического спама, что привело к шквалу сообщений, которые многие получают сегодня. (Тем не менее, в феврале FCC единогласно постановила, что автоматические звонки с использованием технологии клонирования голоса ИИ, такие как реклама Байдена в Нью-Гемпшире, уже являются незаконными в соответствии с законом 30-летней давности.)
Просмотр информационных бюллетеней
По существу, это раздробленная система, в которой многие важные виды деятельности становятся жертвами пробелов в законодательной власти и войны за сферы влияния между федеральными агентствами. И по мере того, как политические кампании становятся цифровыми, они входят в онлайн-пространство с еще меньшим количеством требований к раскрытию информации или других правил. В отсутствие широкого регулирования некоторые штаты приняли свои собственные решения.
В 2019 году Калифорния стала первым штатом в стране, запретившим использование обманчиво манипулируемых СМИ на выборах, и осенью 2024 года усилила этот запрет с помощью ряда недавно принятых законов. Девятнадцать штатов приняли законы, регулирующие использование дипфейков на выборах.
Одна из проблем, с которой приходится сталкиваться регулирующим органам, заключается в широкой применимости ИИ: эту технологию можно использовать для множества различных задач, каждая из которых требует своего регулирования. Люди могут согласиться с тем, что кандидат отретушировал свою фотографию в цифровом виде, чтобы выглядеть лучше, но не сделать то же самое, чтобы его оппонент выглядел хуже. Мы привыкли получать персонализированные предвыборные сообщения и письма, подписанные кандидатом.
«Нормально ли получить робота с голосовым клоном того же политика, произносящего наше имя? И что нам следует делать с созданными ИИ предвыборными мемами, которыми сейчас делятся такие фигуры, как Маск и Дональд Трамп?».
Несмотря на тупиковую ситуацию в Конгрессе, эти вопросы представляют интерес для обеих партий. Это делает возможными определенные шаги, но, вероятно, не раньше выборов 2024 года и только если законодатели преодолеют серьезные препятствия. Один из рассматриваемых законопроектов, Закон о прозрачности выборов в области искусственного интеллекта, предписывает Федеральной избирательной комиссии требовать раскрытия информации, когда в политической рекламе используются СМИ, в основном созданные ИИ. Критики говорят, что это обременительно и увеличит стоимость политической рекламы. Закон о честной рекламе модернизирует закон о финансировании избирательных кампаний, расширяя полномочия FEC. Закон о защите выборов от вводящего в заблуждение ИИ запретит контент, созданный ИИ, на федеральных выборах, в Калифорнии и других штатах. Это многообещающие предложения, но либертарианские группы и группы по защите гражданских свобод уже сигнализируют о проблемах на основании Первой поправки. И, к сожалению, по крайней мере один комиссар Федеральной избирательной комиссии прямо сослался на рассмотрение Конгрессом некоторых из этих законопроектов в качестве причины, по которой его ведомство не должно действовать в отношении ИИ в настоящее время.
Одна группа, которая извлекает выгоду из всей этой неразберихи: технологические платформы. Когда мало или совсем нет очевидных правил, регулирующих расходы на политические кампании в Интернете, а также использование новых технологий, таких как ИИ, технологические компании имеют максимальную свободу для продажи рекламы, услуг и персональных данных для подобных кампаний. Это отражается в их лоббистских усилиях, а также в добровольных политических ограничениях, о которых они время от времени трубят, чтобы убедить общественность в том, что им не нужно более строгое регулирование.
Big Tech продемонстрировала, что они будут выполнять эти добровольные обещания только в том случае, если они принесут пользу отрасли. Facebook* однажды, на короткое время, запретил политическую рекламу на своей платформе. Затем разрешил. Теперь он даже допускает рекламу, которая безосновательно отрицает исход президентских выборов 2020 года. Политика OpenAI уже давно запрещает политическим кампаниям использовать ChatGPT, но обойти эти ограничения просто. Например, несколько компаний вызвались добавить водяные знаки к контенту, созданному ИИ, но их легко обойти. Водяные знаки могут даже усугубить дезинформацию, создавая ложное впечатление, что изображения без водяных знаков являются подлинными.
Эта важная государственная политика не должна быть оставлена на усмотрение корпораций, однако Конгресс, похоже, смирился с тем, что не будет действовать до выборов. Шумер намекнул NBC News в августе 2024 года, что Конгресс может попытаться прикрепить правила дипфейков к обязательным законопроектам о финансировании или обороне в сентябре 2024 года, чтобы гарантировать, что они станут законом до выборов. Совсем недавно он указал на необходимость действий «после выборов 2024 года».
Три законопроекта, перечисленные выше, - это только начало. «Федеральная избирательная комиссия и Федеральная комиссия по связи США (FCC) не должны спорить друг с другом о том, какая территория принадлежит какому агентству. И Федеральная избирательная комиссия нуждается в более значительной, структурной реформе, чтобы позволить ей сделать больше. Нам также нужна прозрачность и управление алгоритмическим распространением дезинформации на платформах социальных сетей.
Для этого необходимо, чтобы всепроникающее влияние технологических компаний и их инвесторов-миллиардеров было ограничено за счет более сильного лоббирования и защиты финансирования избирательных кампаний».
«Вводящие в заблуждение видео вредят нашему демократическому процессу, независимо от того, созданы ли они ИИ или актерами на звуковой сцене. Но насущная озабоченность по поводу ИИ должна быть использована для продвижения законодательной реформы. Конгрессу нужно сделать больше, чтобы контролировать грядущую волну дезинформации о выборах. Он должен действовать более смело, чтобы изменить ландшафт регулирования политических кампаний».
ИИ помогает формировать президентскую гонку 2024 года. Но не так, как опасались эксперты
Associated Press (21.09.2024) пишет в статье с таким названием, что «с приближением выборов 2024 года, первых с момента массовой популяризации генеративного ИИ, эксперты опасались худшего: социальные сети наводнили созданные ИИ дипфейки , которые были настолько реалистичны, что озадаченные избиратели не знали, чему верить.
Пока этого не произошло. Вместо этого избиратели видят гораздо более абсурдное: видео бывшего президента Дональда Трампа, едущего на кошке и держащего в руках штурмовую винтовку. Усатый вице-президент Камала Харрис, одетая в коммунистическую одежду. Трамп и Харрис страстно обнимаются.
ИИ играет важную роль в президентской кампании, даже если самые большие опасения относительно того, как он может угрожать президентским выборам в США, еще не материализовались. Поддельные изображения, созданные ИИ, регулярно рикошетят по сети, но многие из них настолько карикатурны и абсурдны, что даже самый наивный зритель не может воспринимать их всерьез.
Тем не менее, даже эти мемы могут быть проблематичными. Привлекательные фотографии и видео, созданные ИИ, некоторые из которых стремятся быть смешными, стали полезными инструментами для распространения ложных, иногда расистских сообщений с явным политическим уклоном — и кандидаты и их сторонники входят в число тех, кто делится ими в социальных сетях.
Например, Трамп и многие его союзники не только неоднократно продвигали теорию заговора о том, что гаитянские мигранты крадут и едят кошек и собак в Спрингфилде, штат Огайо, но и распространяли связанные с этим мемы, созданные ИИ. Один из мемов, опубликованный в аккаунте Трампа Truth Social, изображал его в роскошном самолете, окруженном кошками и белыми утками. Другой был изображен с группой котят, держащих табличку с надписью: «НЕ ДАЙТЕ ИМ СЪЕСТЬ НАС, голосуйте за Трампа!»
Франческа Триподи, эксперт по интернет-пропаганде, заявила, что подобные изображения, созданные с помощью ИИ, являются новыми вирусными средствами распространения старых антииммиграционных идей.
«Мемы, которые усиливают это утверждение, совсем не юмористичны. Когда у вас есть избранные должностные лица, которые используют эти образы как способ увековечения расизма и ксенофобии, это огромная проблема», — сказал Триподи, социолог из Университета Северной Каролины в Чапел-Хилл.
Республиканцы защищают эти изображения, называя их беззаботными шутками и побочными продуктами личности Трампа.
«Вокруг Дональда Трампа существует культура личности, которая поощряет такой чрезмерный стиль общения, превращающий вещи в комичные мемы», — сказал Калеб Смит, республиканский стратег. «Цель — развлекать, а не обманывать. Так и должно быть».
Не только сторонники Трампа
Трамп и его сторонники не единственные, кто создает мемы с ИИ, но они, похоже, используют генераторы изображений ИИ чаще, чем их коллеги-демократы. Некоторые пользователи левых взглядов опубликовали изображения ИИ, высмеивающие миллиардера Илона Маска, владельца X и открытого сторонника кампании Трампа. Демократы также опубликовали сгенерированные ИИ изображения Трампа в наручниках и преследуемого полицией, когда он был в суде на Манхэттене в 2023 году.
Однако кампания Камалы Харрис не склонялась к усилению контента, созданного с помощью ИИ, вместо этого сосредоточившись на трендах TikTok и других мемах, для создания которых не требуются модели ИИ.
«В настоящее время единственным разрешенным применением генеративного ИИ в ходе предвыборной кампании являются инструменты повышения производительности, такие как анализ данных и стандартная в отрасли помощь в кодировании», — заявила представитель кампании Харрис Миа Эренберг.
Что нужно знать о выборах 2024 года
Представитель предвыборной кампании Трампа Стивен Чунг сообщил, что стратегия кампании не изменилась с мая 2024 года, когда он отправил по электронной почте заявление о том, что кампания «не задействует и не использует» инструменты, предоставленные какой-либо компанией, работающей в сфере ИИ.
Использование фейковых, развлекательных, часто нелепых изображений для набора политических очков — это не новость. Но в отличие от слепленных в Photoshop изображений или политических карикатур, изображения, созданные ИИ, наносят более сильный удар своей гиперреалистичностью и могут привлечь новое внимание к политическому сообщению.
Хотя некоторые из изображений, связанных с домашними животными в Спрингфилде, были карикатурными и глупыми, многие посчитали, что они увековечивают вредоносную теорию заговора о сообществе, которое с тех пор получает угрозы о взрывах, что приводит к эвакуации школ и правительственных зданий.
«Одно дело — мемы, которые явно пародируют. Другое дело, когда они явно направлены на обман», — сказал представитель Адам Шифф, демократ из Калифорнии и ярый критик Трампа. «И мы уже видим, как кампания Трампа действительно размывает грань».
ИИ упрощает задачу
Скорость и доступность генеративных инструментов ИИ позволяют легко создавать необычный политический контент, который может собирать клики и лайки. Благодаря генераторам изображений ИИ, доступным любому человеку с подключением к Интернету, они являются дешевым и удобным способом для кампаний реагировать на онлайн-тенденции и доносить сообщение.
«Кампаниям уже очень давно приходится иметь дело с дезинформацией и недостоверной информацией. … Это не новая проблема. Но очевидно, что ИИ позволяет делать это быстрее, возможно, более убедительно и целенаправленно», — сказал Тедди Гофф, цифровой директор предвыборной кампании Барака Обамы в 2012 году.
Пол Инграссия, политический комментатор и юрист из Нью-Йорка, сказал, что он создал вирусное изображение Трампа, выходящего из логова льва, за считанные секунды, с помощью нейросети Grok, затем вставил его в свой информационный бюллетень и отправил его сотрудникам кампании Трампа. Аккаунт Truth Social Трампа опубликовал информационный бюллетень Инграссии, включая изображение, в тот же день.
«Я получил сообщение от своего контактного лица с президентом, и они сказали: «Президенту понравилось изображение, как вы его сделали? Кто его создал?» И я сказал: «Я сделал это для статьи», — сказал Инграссиа. «И он сказал: «Продолжайте свою замечательную работу, ему это нравится»».
Использование ИИ для политической сатиры и пропаганды не ограничивается США и наблюдалось на выборах от Индонезии до Нидерландов.
Более зловещие дипфейки также пытались повлиять на президентские гонки по всему миру. В 2023 году в Словакии изображения, созданные ИИ, выдавали себя за лидера либеральной партии, говорящего о фальсификации голосования за несколько дней до парламентских выборов. На праймериз в Нью-Гэмпшире в январе 2024 года аудиодипфейки президента Джо Байдена отправлялись в автоматических звонках избирателям-демократам, призывая их не голосовать. Инцидент быстро получил огласку и привел к уголовным обвинениям.
Принятие Трампом изображений, созданных ИИ, противоречит некоторым его прошлым комментариям. В интервью Fox Business в 2024 году Трамп назвал ИИ «очень опасным» и «таким страшным», потому что «нет реального решения» проблем, созданных передовыми технологиями.
В то же время некоторые республиканцы обеспокоены тем, как Трамп и Республиканская партия используют ИИ для создания политических мемов».
Что говорит социология о влиянии ИИ на президентскую кампанию США 2024 года?
Согласно новому исследованию Pew Research Center (опубликовано 19.09.2024)):
«Большинство американцев заявляет, что они обеспокоены влиянием ИИ на президентскую кампанию 2024 года; американцы также не доверяют крупным технологическим компаниям в плане предотвращения неправомерного использования их платформ с целью влияния на выборы.
Согласно опросу, проведённому среди американцев, 39% респондентов считают, что искусственный интеллект (ИИ) будет использоваться преимущественно в негативных целях во время президентской кампании. В то же время только 5% опрошенных уверены, что ИИ будет применяться исключительно в благих целях. Ещё 27% участников опроса предполагают, что использование ИИ будет распределено равномерно между хорошими и плохими намерениями.
Большинство взрослых американцев (57%), включая почти одинаковое количество республиканцев и демократов, заявляют, что они крайне или очень обеспокоены тем, что люди или организации, стремящиеся повлиять на выборы, будут использовать ИИ для создания и распространения ложной или вводящей в заблуждение информации о кандидатах и кампаниях.
Просмотры по партиям
Большинство в обеих партиях продолжают считать, что технологические компании обязаны предотвращать ненадлежащее использование своих платформ. Но демократы и их сторонники (84%) чаще, чем республиканцы и их сторонники (72%), выражают эту точку зрения.
Хотя взгляды демократов мало изменились с 2020 года, доля республиканцев, которые теперь говорят, что технологические компании несут эту ответственность за предотвращение неправомерного использования своих платформ, выше, чем четыре года назад. В августе 2020 года 64% республиканцев заявили, что технологические компании несут за это ответственность.
Как со временем менялось доверие американцев к технологическим компаниям
За последние шесть лет снизилось доверие общественности к технологическим компаниям и их способности предотвратить неправомерное использование их платформ для влияния на выборы.
Сегодня лишь 20% американцев говорят, что они полностью или частично уверены в способности таких технологических компаний, как Facebook*, X, TikTok и Google, предотвратить неправомерное использование их платформ с целью повлиять на президентские выборы 2024 года.
В 2018 году треть американцев заявили, что уверены в том, что эти компании смогут это сделать.
Сегодня, в 2024 году 79% взрослых говорят, что они не слишком уверены или вообще не уверены в том, что технологические компании смогут остановить неправомерное использование своих платформ для влияния на выборы.
Просмотры по партиям
Большинство в обеих партиях говорят, что не уверены в том, что технологические компании предотвратят нецелевое использование своих платформ. Республиканцы и демократы стали менее уверенными с 2018 года.
80% республиканцев и независимых избирателей, симпатизирующих республиканцам, совсем или не слишком уверены в способности технологических компаний предотвратить неправомерное использование своих платформ, по сравнению с 72%, которые не были уверены в этом в 2018 году. Однако доля республиканцев, которые говорят, что они совсем не уверены, снизилась с 2020 года (33% сейчас, 43% тогда).
79% демократов и сторонников демократов заявляют, что не уверены в способности технологических компаний прекратить злоупотребления. Это на 20 процентных пунктов больше, чем в 2018 году, когда в этом не были уверены 62% демократов».
***
Почему именно демократы раздувают проблему ИИ на выборах?
Пока ситуация складывается не в их пользу.
В проигранных выборах можно будет легко найти главного виновного.
И им, скорее всего, станет ИИ!
За обоими кандидатами в президенты стоят лидеры Кремниевой долины, где и разрабатываются основные модели ИИ.
Профессионалы всегда найдут основания обвинить ИИ противника.
Влияние ИИ на результаты выборов может быть признано основанием считать их недействительными (естественно, после соответствующих судебных процедур).
*соцсеть компании Meta, признанной экстремистской и запрещённой в РФ
Елена Ларина, Владимир Овчинский
29.08.2024 Си и ИИ
Китай делает стратегическую ставку на развитие всех форм искусственного интеллекта
В июле 2023 года Генри Киссинджер в последний раз перед смертью побывал в Пекине. Среди посланий, которые он передал правителю Китая Си Цзиньпину, было предупреждение о катастрофических рисках искусственного интеллекта (ИИ). С тех пор американские технологические боссы и бывшие правительственные чиновники тайно встречались со своими китайскими коллегами в рамках серии неформальных встреч, получивших название «Диалоги Киссинджера». Разговоры частично были сосредоточены на том, как защитить мир от опасностей ИИ.
27 августа 2024 года американские и китайские официальные лица рассматривали эту тему (наряду со многими другими) во время визита в Пекин советника по национальной безопасности США Джейка Салливана.
I. В статье The Economist «Является ли Си Цзиньпин «обреченным» на смерть ИИ?» (25.08.2024) отмечается, что многие в мире технологий думают, что ИИ сравняется с когнитивными способностями человека или превзойдет их. Некоторые разработчики предсказывают, что модели «Общего» ИИ (AGI) однажды смогут обучаться, что может сделать их неуправляемыми.
Для справки (Е.Л., В.О.):
Общий искусственный интеллект (AGI) это тип ИИ, который превосходит возможности человека в решении широкого спектра когнитивных задач.
Тех, кто считает, что оставленный без контроля ИИ представляет экзистенциальный риск для человечества, называют «обреченными». Они, как правило, выступают за более строгие правила. С другой стороны находятся «акселерационисты», которые подчеркивают потенциал ИИ на благо человечества.
Для справки (Е.Л.,В.О.):
Акселерационизм – идея перенацеливания сложившихся политических взглядов на ускорение научно – технического прогресса.
Западные «акселерационисты» часто утверждают, что конкуренция с китайскими разработчиками, которые не ограничены сильными гарантиями, настолько жесткая, что Запад не может позволить себе замедлиться. Подразумевается, что дебаты в Китае носят односторонний характер, и «акселерационисты» имеют наибольшее влияние на нормативно-правовую среду. На самом деле, в Китае есть свои собственные сторонники ИИ, и они становятся все более влиятельными.
До недавнего времени регулирующие органы Китая были сосредоточены на риске того, что мошеннические чат-боты будут говорить политически некорректные вещи о Коммунистической партии, а не на риске того, что передовые модели выйдут из-под контроля человека.
В 2023 году правительство Китая обязало разработчиков регистрировать свои большие языковые модели. Алгоритмы регулярно проверяют, насколько они соответствуют социалистическим ценностям и могут ли они «подорвать государственную власть». Правила также призваны предотвратить дискриминацию и утечку данных клиентов. Но, в целом, правила безопасности ИИ в Китае легкие. Некоторые из наиболее обременительных ограничений Китая были отменены в 2023 году.
«Акселерационисты» Китая хотят, чтобы все оставалось так, как есть. Чжу Сунчунь, партийный советник и директор поддерживаемой государством программы по развитию AGI, утверждает, что развитие ИИ так же важно, как и проект «Две бомбы, один спутник», который был предпринят в эпоху Мао Цзэдуна и создал ядерное оружие дальнего действия.
Ранее в 2024 году Инь Хэцзюнь, министр науки и технологий, использовал старый партийный лозунг, чтобы настаивать на более быстром прогрессе, написав, что развитие, в том числе в области ИИ, является величайшим источником безопасности Китая. Некоторые политики предупреждают, что чрезмерное стремление к безопасности нанесет ущерб конкурентоспособности Китая.
Но «акселерационисты» получают отпор от группы элитных ученых, которые прислушиваются к Коммунистической партии. Наиболее выдающимся среди них является Эндрю Чи-Чи Яо, единственный китаец, получивший премию Тьюринга за достижения в области компьютерных наук. В июле 2024 года Яо заявил, что ИИ представляет больший экзистенциальный риск для человека, чем ядерное или биологическое оружие.
Чжан Я-Цинь, бывший президент китайского технологического гиганта Baidu, и Сюэ Лань, председатель экспертного комитета штата по управлению ИИ, также считают, что ИИ может угрожать человеческой расе.
И Цзэн из Китайской академии наук считает, что модели AGI в конечном итоге будут видеть людей так же, как люди видят муравьев.
Влияние таких аргументов проявляется все чаще. В марте 2024 года международная группа экспертов, собравшаяся в Пекине, призвала исследователей ликвидировать модели, которые стремятся к власти или демонстрируют признаки самовоспроизведения или обмана. Вскоре после этого риски, связанные с ИИ, и способы их контроля стали предметом изучения для партийных лидеров.
Государственный орган, финансирующий научные исследования, начал предлагать гранты исследователям, которые изучают, как привести ИИ в соответствие с человеческими ценностями. Государственные лаборатории проводят все более продвинутую работу в этой области. Частные фирмы были менее активны, но многие из них, по крайней мере, начали на словах говорить о рисках ИИ.
Дебаты о том, как подойти к этой технологии, привели к войне за сферы влияния между китайскими регулирующими органами.
Министерство промышленности обратило внимание на проблемы безопасности, попросив исследователей протестировать модели на предмет угроз для человека.
Но большинство китайских представителей спецслужб видят в отставании от Америки больший риск. Министерство науки и государственные экономические планировщики также выступают за более быстрое развитие.
Национальный закон об ИИ, запланированный на 2024 год, в последние месяцы тихо выпал из повестки дня правительства из-за этих разногласий. Тупиковая ситуация стала очевидной 11 июля 2024 года, когда чиновник, ответственный за написание закона об ИИ, предостерег от приоритета безопасности или целесообразности.
Решение в конечном итоге будет зависеть от того, что думает Си Цзиньпин.
В июне 2024 года он направил письмо Яо, в котором высоко оценил его работу над ИИ.
В июле 2024 года, на заседании центрального комитета партии, созванном «третьим пленумом», Си Цзиньпин дал самый четкий сигнал о том, что он серьезно относится к опасениям «обреченных».
В официальном отчете пленума перечислены риски, связанные с ИИ, наряду с другими серьезными проблемами, такими как биологические опасности и стихийные бедствия. Впервые он призвал к мониторингу безопасности ИИ, ссылаясь на потенциал технологии представлять опасность для людей. Доклад может привести к новым ограничениям на исследовательскую деятельность в области ИИ.
Больше ключей к разгадке мыслей Си Цзиньпина можно найти в учебном пособии, подготовленном для партийных кадров, которое, как говорят, он лично редактировал. Китай должен «отказаться от неограниченного роста, который происходит за счет жертвования безопасностью», говорится в руководстве. Поскольку ИИ будет определять «судьбу всего человечества», он всегда должен быть управляемым, продолжает он. Документ призывает к тому, чтобы регулирование было упреждающим, а не реактивным.
Гуру безопасности говорят, что важно то, как эти инструкции выполняются. Китай, вероятно, создаст институт безопасности ИИ, чтобы наблюдать за передовыми исследованиями, как это сделали Америка и Великобритания, говорит Мэтт Шихан из Фонда Карнеги за международный мир*, аналитического центра в Вашингтоне. Вопрос о том, какое ведомство будет курировать такой институт – вопрос открытый. На данный момент китайские официальные лица подчеркивают необходимость разделения ответственности за регулирование ИИ и улучшение координации.
Если Китай действительно продолжит усилия по ограничению самых передовых исследований и разработок в области ИИ, он зайдет дальше, чем любая другая крупная страна. Си Цзиньпин говорит, что хочет «укрепить управление правилами ИИ в рамках Организации Объединенных Наций». Для этого Китаю придется более тесно сотрудничать с другими. Но Америка и ее друзья все еще рассматривают этот вопрос. Дебаты между «обреченными» и «акселерационистами» в Китае и других странах далеки от завершения.
II. Британское издание The Conversation в статье «Китай склоняется к использованию ИИ, хотя США лидируют в его разработке» (21.08.2024) пишет, что на конкурентной арене мировых технологий амбиции Китая в области ИИ выделяются не только своим масштабом, но и особым стратегическим подходом.
В 2017 году Коммунистическая партия Китая заявила о своем намерении превзойти Соединенные Штаты и стать мировым лидером в области ИИ к 2030 году. Однако этот план в меньшей степени касается разработки новых технологий, а в большей — стратегической адаптации существующих для обслуживания государственных экономических, политических и социальных целей.
Хотя и Китай, и США активно развивают технологии ИИ, их подходы существенно различаются. США традиционно лидируют в фундаментальных исследованиях и инновациях в области ИИ, а такие институты, как Массачусетский технологический институт и Стэнфорд, а также технологические гиганты, такие как Google и Microsoft, добиваются прорывов в области машинного обучения.
Этот подход, ориентированный на инновации, контрастирует с фокусом Китая на адаптации и применении существующих технологий для конкретных государственных целей.
Развитие ИИ в США в первую очередь обусловлено децентрализованной сетью академических институтов, частных компаний и государственных учреждений, часто с конкурирующими интересами и фокусом на коммерческих приложениях.
Напротив, стратегия ИИ в Китае более централизована и управляется государством, с четким акцентом на поддержку государственных инициатив, таких как социальный контроль и экономическое планирование.
ИИ для идеологического контроля
В основе стратегии Китая в области ИИ лежит его стремление внедрить технологию в механизм идеологического контроля правительства. Ярким примером является чат-бот «Xue Xi», предназначенный для пропаганды политической идеологии президента Си Цзиньпина. «Xue Xi» (что означает «Учение Си») — это больше, чем просто чат-бот. Это цифровой эмиссар «Мысли Си Цзиньпина», доктрины, состоящей из 14 принципов, направленных на укрепление власти КПК, укрепление национальной безопасности и продвижение социалистических ценностей.
Крупные китайские чат-боты с языковой моделью на шаг впереди подобных ChatGPT в одном отношении: политической цензуре.
Это не просто единичная инициатива, а часть более широкой тенденции. Системы наблюдения на основе ИИ, такие как технология распознавания лиц, развернутая в китайском регионе Синьцзян, позволяют правительству поддерживать жесткий контроль над мусульманским уйгурским меньшинством этого региона.
Эти технологии не являются новаторскими. Они основываются на существующих инновациях, но тонко настроены на обслуживание усилий Коммунистической партии по поддержанию общественного порядка и предотвращению инакомыслия. Мастерство Китая в области ИИ достигается не за счет создания новейших технологий, а за счет освоения и развертывания ИИ способами, которые соответствуют его идеологическим императивам.
ИИ для экономического контроля
Стратегия Китая в области ИИ также тесно переплетена с его экономическими амбициями. Столкнувшись с замедлением роста, Коммунистическая партия рассматривает технологии как важнейший инструмент для вывода страны из экономического спада. Это особенно очевидно в таких секторах, как производство и логистика, где ИИ используется для повышения эффективности и поддержания конкурентоспособности Китая в глобальных цепочках поставок. Например, такие компании, как гигант онлайн-ритейла Alibaba, разработали логистические платформы на основе ИИ, которые оптимизируют маршруты доставки и управляют складскими операциями, гарантируя, что Китай останется фабрикой мира.
Кроме того, система социального кредита Китая, которая оценивает граждан по их гражданскому и финансовому поведению, представляет собой значительную стратегическую инициативу, в которой ИИ играет все более важную роль. Эта система Китая предназначена для мониторинга и влияния на поведение граждан в огромных масштабах. Хотя ИИ еще не полностью внедрен во всей системе социального кредита, он интегрируется для отслеживания и анализа огромных объемов данных, таких как финансовые транзакции, онлайн-взаимодействия и социальные отношения в режиме реального времени.
Затем эти данные используются для присвоения баллов, которые могут влиять на различные аспекты жизни, от одобрения кредитов до разрешений на поездки. Поскольку ИИ все больше внедряется в систему, он еще больше усилит государственный контроль и обеспечит соблюдение обществом правил, отдавая приоритет государственному надзору над личной автономией.
Стратегический экспорт
На международной арене Китай экспортирует свои технологии ИИ для расширения своего влияния, особенно в развивающихся странах. В рамках инициативы «Один пояс, один путь» китайские технологические гиганты, такие как Huawei и ZTE, предоставляют системы наблюдения на основе ИИ правительствам стран Африки, Юго-Восточной Азии и Латинской Америки. Эти системы, часто позиционируемые как инструменты для повышения общественной безопасности, являются частью более масштабной стратегии по экспорту китайской модели управления.
Например, в Зимбабве китайские фирмы помогли внедрить общенациональную систему распознавания для борьбы с преступностью. Политические активисты в Зимбабве опасаются, что технология используется для слежки за политическими оппонентами и активистами, как это происходит в Китае.
ИИ для стратегического военного преимущества
Народно-освободительная армия Китая, вкладывает значительные средства в автономные системы на основе ИИ, включая беспилотники и роботизированные платформы. Эти технологии не обязательно являются самыми передовыми в мире, но Китай адаптирует их под свои стратегические потребности.
Китай разрабатывает системы ИИ для поддержки своих военно-морских операций в Южно-Китайском море, регионе значительной геополитической напряженности. Китай развертывает автономные подводные лодки и разведывательные беспилотники для мониторинга и потенциального нарушения иностранной военной деятельности в регионе. Это стратегическое использование ИИ в военных приложениях подчеркивает сосредоточенность Китая на использовании существующих технологий для достижения конкретных геополитических целей, а не на поиске инноваций ради них самих.
Просчитанная стратегия
Подход Китая к ИИ — это рассчитанная стратегия адаптации и применения, а не сырые инновации. Осваивая использование существующих технологий и согласовывая их с государственными целями, Китай не только усиливает свой внутренний контроль, но и меняет глобальную динамику власти.
Будь то идеологическая обработка, экономический контроль, стратегический экспорт или военные достижения, китайский сценарий развития ИИ является убедительным напоминанием о том, что в сфере технологий то, как используются инструменты, может иметь такое же преобразующее значение, как и сами инструменты.
III. Financial Times в статье «Понимание прагматичного плана Китая в области ИИ» (31.07.2024) тоже подчеркивает различие в стратегиях развития ИИ в Китае и США:
«В то время как экосистема США имеет преимущество в революционных инновациях, китайская преуспевает в реализации».
С тех пор как американский стартап OpenAI запустил чат-бота ChatGPT в ноябре 2022 года, мир был поглощен лихорадочной гонкой по созданию больших языковых моделей, которые питают генеративный ИИ. Китаю в этой гонке мешают два фактора: отсутствие доступа к передовым американским чипам и цензура информации.
Без передовых чипов вычислительные мощности Китая ограничены. Такие компании, как OpenAI, расширяют размер своих моделей. Сообщается, что GPT-4, новейшая флагманская модель OpenAI, будет обучена на более чем 1 трлн параметров.
Вместо этого китайские компании должны сосредоточиться на эффективности. Например, компания DeepSeek, базирующаяся в Ханчжоу, в этом году выпустила DeepSeek-V2, большую языковую модель с открытым исходным кодом, которая использует 21 миллиард активных параметров.
Китайским компаниям также мешают данные, к которым они могут получить доступ. Введение в действие Закона о защите личной информации в Китае в 2021 году ввело строгие стандарты защиты данных, аналогичные Общему регламенту по защите данных Европы. В последние годы регулирующие органы Китая неоднократно заявляли о необходимости защиты индивидуальных и корпоративных данных.
Такие ограничения означают, что у китайских компаний больше стимулов для создания сервисов ИИ, построенных на небольших языковых моделях, вместо того, чтобы обучать их во всем Интернете. Им может не хватать грубой силы их более крупных собратьев, но они дешевле в создании и эксплуатации.
Технологическая экосистема Китая основана на таком прагматизме. Исследования, которые не могут быть превращены в продукт в обозримом будущем, такие как AGI, изо всех сил пытаются привлечь финансирование.
Всемирная организация интеллектуальной собственности недавно опубликовала отчет о патентном ландшафте в области генеративного ИИ, который показал, что в Китае было зарегистрировано более чем 38 000 заявок в период с 2014 по 2023 год по сравнению с 6 276 заявками США за тот же период. Лидировали Tencent, Ping An Insurance, Baidu и Китайская академия наук. Конечно, патенты не равны прорывам. Alphabet занимает место ниже Tencent с точки зрения названий патентов на ИИ, но Google DeepMind от Alphabet дал миру AlphaFold, который может стать преобразующим для открытия лекарств с помощью ИИ.
Однако большой объем патентов Китая может привести к увеличению количества продуктов. Одной из областей применения китайского ИИ для наблюдения являются электромобили. Китай потратил 26 лет на производство своих первых 10 миллионов электромобилей и всего 17 месяцев на производство следующих 10 миллионов.
Ожидается, что примерно половина автомобилей, проданных в Китае в 2024 году, будут «умными» автомобилями с планшетами на колесах.
Baidu, которая в конце июля 2024 года развернула 500 беспилотных такси в Ухане, проводит крупнейший в мире эксперимент по автономным транспортным средствам.
Китайские компании, возможно, не создадут сверхчеловеческий ИИ, но «достаточно хороший» ИИ, взаимодействующий с людьми через свои автомобили, будет популяризирован в Китае раньше, чем где-либо еще.
***
Думается, что в западных изданиях преувеличена роль использования ИИ в целях контроля над китайским обществом.
Как можно убедиться из анализа американских СМИ, ЦРУ, АНБ, ФБР, Министерство внутренней безопасности используют ИИ в целях контроля над американским обществом еще в больших масштабах, чем это делается в Китае.
Достаточно вспомнить историю Сноудена и обнародованную им систему PRISM.
Что касается военного использования ИИ Пентагоном, то в настоящее время ни одна из его новых систем вооружения не создается без использования ИИ.
Также преуменьшена роль Китая в создании AGI.
Известно, что такие работы активно ведутся, и, неизвестно, у кого здесь приоритет.
*НКО, признанное иностранным агентом в РФ
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/si_i_ii
26.08.2024 Президента США выбирает ИИ?
Технократия подавляет демократию?
I. Насколько ИИ опасен для выборов президента США в 2024 году?
Шира Френкель для статьи в The New York Times «ИИ в год выборов, которых не было» (21.08.2024) взяла интервью у представителей 23 технологических компаний 7 выборных штабов, которые внедрили инструменты ИИ в политические мероприятия перед выборами разного уровня в США 2024 года:
«2024 год должен был быть годом выборов ИИ. Благодаря распространению инструментов ИИ, таких как чат-боты и генераторы изображений, более 30 технологических компаний в последние месяцы предложили продукты ИИ национальным, государственным и местным политическим кампаниям в США. Компании — в основном небольшие фирмы, такие как BHuman, VoterVoice и Poll the People — производят продукты, которые реорганизуют списки избирателей и предвыборные электронные письма, расширяют возможности роботизированных звонков и создают генерируемые ИИ подобия кандидатов, которые могут виртуально встречаться и приветствовать избирателей.
Но лишь немногие кандидаты используют ИИ, и еще меньше готовы признать это, согласно интервью с 23 технологическими компаниями и семью политическими штабами. Три политических штаба заявили, что они согласились покупать технологии ИИ только в том случае, если они смогут гарантировать, что общественность никогда не узнает, что они использовали ИИ.
Во многом сомнения возникают из-за внутренних опросов предвыборной кампании, которые показали, что избиратели нервничают по поводу ИИ и не доверяют этой технологии, сказали четыре чиновника, участвовавшие в кампаниях Демократической и Республиканской партии. Когда выборные штабы обратились к ИИ для создания фотографий или видео кандидатов, цифры были еще хуже, сказал один из них.
Некоторые варианты использования ИИ в политических кампаниях уже потерпели неудачу. В январе 2024 года звонок от ИИ, который имитировал голос президента Байдена на праймериз в Нью-Гэмпшире, был осужден политическими наблюдателями и расследован местными правоохранительными органами.
19 августа 2024 года бывший президент Дональд Трамп разместил на своем сайте в социальной сети Truth Social созданные ИИ изображения популярной певицы Тейлор Свифт, поддерживающей его. Реакция ее поклонников была гневом и осуждением.
«Политические кампании изначально имеют проблемы с доверием», — сказал Филип Уолзак, политический консультант из Нью-Йорка. «Ни один кандидат не хочет, чтобы его обвиняли в публикации дипфейков на выборах или в использовании ИИ для обмана избирателей».
Скептицизм является частью новой реальности для ИИ, поскольку энтузиазм по поводу этой технологии остыл. В этом году технологические гиганты и стартапы, которые прославляли ИИ как волну будущего, начали подстраховывать свои обещания. Уолл-стрит стала настороженно относиться к финансовым целям, которые ставят перед собой компании, занимающиеся ИИ. Законодатели предложили меры, которые могут замедлить рост индустрии ИИ.
Всего шесть месяцев назад все было по-другому. Привлеченные обещаниями миллионов долларов средств на предвыборную кампанию, которые кандидаты потратят на победу, десятки технологических компаний переключили свои технологии на выборы в США. Они создали чат-ботов, таких как ChatGPT, с генераторами изображений ИИ, чтобы создавать ходячих и говорящих клонов кандидатов, которые могли бы виртуально взаимодействовать с избирателями.
BHuman, нью-йоркская компания, основанная в 2020 году и использующая ИИ для создания видео, провела политические кампании с помощью технологии, которая персонализирует видео кандидатов для избирателей. Кандидаты могли записать свое выступление по какому-либо вопросу, а технология BHuman на основе ИИ могла затем клонировать их лицо и голос для создания новых видеороликов. Первые строки можно было бы изменить, чтобы они приветствовали конкретного избирателя или изложили конкретную тему для разговора.
«Представьте, что вы избиратель и получаете видео, в котором кандидат называет ваше имя и рассказывает о ваших проблемах», — сказал Дон Боско, основатель BHuman. «Это создает человеческие связи».
BHuman также предлагает продукт, который создает цифровую копию кандидата, имитируя стиль письма кандидата, чтобы отвечать на электронные письма или участвовать в виртуальных чатах с избирателями. Боско отказался комментировать, в каких кампаниях использовалась продукция его компании.
Personaliz.ai, компания в области ИИ, основанная в 2023 году и базирующаяся в Хайдарабаде, Индия, заявила, что работала с более чем 30 политиками на национальных выборах в Индии в 2024 году. Фирма сняла видеоролики, в которых версии кандидатов с ИИ взаимодействовали с избирателями в LinkedIn и на веб-сайтах предвыборных кампаний. Они также отправляли персонализированные видео на телефоны людей через WhatsApp и текстовые сообщения.
Сантош Тота, исполнительный директор Personaliz.ai, сказал, что реакция кандидатов и избирателей в Индии была «отличной» и что его компания заметила интерес со стороны других стран Юго-Восточной Азии и продемонстрировала свою технологию политикам в нескольких африканских странах. Но он не увидел такого же интереса со стороны США и Европы, сказал он.
«Люди в США скептически относятся к этой технологии», — сказал Тота.
Компания Civox, базирующаяся в Лондоне и сотрудничавшая с кампанией Димера, демократа из Огайо, баллотирующегося в Конгресс, заявила, что все еще экспериментирует с правильным способом охвата избирателей с помощью своей технологии. Помимо голосовой технологии ИИ, компания предлагает программы, подобные чат-ботам, которые могут отвечать на вопросы избирателей от имени кампании.
Илья Музыкантский, исполнительный директор Civox, сказал, что ИИ не является волшебным средством для победы, но что эти инструменты могут помочь кампаниям, особенно небольшим, «проводить более автоматизированную и целенаправленную работу».
По словам трех экспертов, некоторые политические штабы были более склонны покупать технологии у компаний, занимающихся ИИ, для выполнения закулисных задач, таких как помощь в организации списков адресов электронной почты и баз данных избирателей.
Когда Димер впервые начал работать с Civox над голосовой технологией ИИ, он попросил использовать его голос для обучения роботизированного вызова ИИ, сообщает компания. Но Сivox призвал его выступить с голосом, который был явно искусственно сгенерирован, чтобы избиратели знали, что в этом замешан ИИ и что кампания действовала прозрачно.
Кампания Димера в конечном итоге остановилась на голосе ИИ, который сказал: «Привет, я Эшли, волонтер по ИИ для Мэтта Димера». Звонки были сделаны в марте 2024 года, незадолго до Супервторника. По словам директора Civox, скорость приема вызовов роботов, независимо от того, совершались ли они ИИ или человеческим голосом, измерялась однозначными числами. Большинство людей вешали трубку на звонках представителей предвыборного штаба Димера в первые несколько секунд.
Civox отказалась комментировать стоимость технологии. Весной 2024 года компания работала примерно с дюжиной политических кампаний в течение четырех месяцев и совершила сотни тысяч роботизированных звонков для проверки своей технологии ИИ.
Димер сказал, что не сожалеет об экспериментах с ИИ
«Мне нравится ИИ и технологии, а также то, что они потенциально могут сделать политические кампании более доступными для всех», — сказал он. «Я не думаю, что все получили то, что мы пытались сделать, или дали возможность увидеть, что, возможно, ИИ является отличным инструментом для охвата избирателей».
Комментарий Е.Л. и В.О.:
Создается впечатление, что в статье Френкель в The New York Times целенаправленно занижается влияние ИИ на выборы президента США в 2024 году. Ведь не указанные в статье второстепенные компании будут управлять выборами.
1. В Америке сложился пул гигантов – разработчиков ИИ.
К весне 2023 года огромная популярность таких приложений, как ChatGPT, вызвала массовую борьбу среди предприятий, пытающихся внедрить последние достижения в области генеративного ИИ. Год спустя повальное увлечение продолжается. В свою очередь, появилась новая технологическая экономика, которая помогает предприятиям разрабатывать и развертывать приложения на основе ИИ. Об этом свидетельствует состав шестого ежегодного рейтинга ИИ - 50 журнала Forbes (11.04.2024), подготовленного в партнерстве с Sequoia и Meritech Capital, в котором отмечаются наиболее перспективные частные компании в области ИИ.
Варианты использования являются широкими и далеко идущими, что сразу видно на примере трех крупнейших компаний в списке с точки зрения оценки. Модельный мейкер OpenAI ($86 млрд) насчитывает клиентов от Morgan Stanley до правительства Исландии, в то время как его конкурент Anthropic ($18,4 млрд, как сообщает Forbes) используется Bridgewater и Boston Consulting Group. Databricks ($43 млрд) продает свое программное обеспечение для анализа данных и развертывания искусственного интеллекта Shell и Почтовой службе США. Для стартапов на ИИ - 50 технология эволюционировала от захвата воображения клиентов к захвату миллиардов долларов коллективного дохода.
Они также привлекли внимание инвесторов Кремниевой долины в то время, когда рынок сбора средств продолжает создавать трудности для других, некогда горячих секторов. Компании, участвующие в ИИ - 50 в 2024 году, привлекли в общей сложности 34,7 миллиарда долларов финансирования. Почти треть этой суммы приходится на OpenAI, благодаря примерно 10 миллиардам долларов от Microsoft. Гораздо больше средств поступило от других восходящих исследовательских фирм в области ИИ, таких как Anthropic ($7,7 млрд), Cohere ($445 млн) и Mistral AI ($528 млн). В их основе лежит множество инфраструктурных инструментов, которые помогают компаниям внедрять технологию. Многие, такие как Baseten, LangChain и Unstructured, дебютируют на ИИ - 50 после того, как в 2023 году отпраздновали бурный рост показателей.
Другие формы развития ИИ также набирают обороты. Возьмем, к примеру, компанию Anduril, которая привлекла 2,8 миллиарда долларов на оборонные технологии; Insitro, которая накопила 643 миллиона долларов наличными на разработку лекарств; или Figure AI, которая привлекла 754 миллиона долларов для создания человекоподобных роботов. Кроме того, есть компании, которые органично внедряют последние достижения в области ИИ в свои собственные приложения. Abridge использует распознавание голоса и обобщение речи для автоматической документации вашего визита в кабинет врача. Notion пытается вырвать с корнем Google Workspace или Microsoft Office, в то время как Perplexity хочет заново изобрести поисковую систему.
Сектор ИИ еще никогда не был более конкурентоспособным. В 2024 году Forbes получил около 1900 заявок, что более чем в два раза больше, чем в 2023 году.
2. Проблема дипфейков на выборах
По оценкам Центра финансовых услуг компании Deloitte генеративный ИИ предоставляет безграничные возможности для изобретения новых видов мошенничества и для увеличения их масштабов. С их помощью преступник сможет сделать все, на что у него хватит фантазии. Дипфейки, созданные с помощью генеративного ИИ, включают в себя «самообучающуюся» систему, которая постоянно проверяет и совершенствует свои возможности в области обмана компьютеризированных систем обнаружения противоправных действий. В частности, благодаря доступности новых инструментов генеративного ИИ для злоумышленникам проще и дешевле создавать видеодипфейки, фальшивые голоса и поддельные документы.
В теневом интернете уже существует целая кустарная индустрия по изготовлению мошеннического программного обеспечения, продающая его по цене от $20 до нескольких тысяч долларов США. Такая «демократизация» вредоносного ПО делает некоторые существующие средства борьбы с мошенничеством менее эффективными.
Согласно одному из отчетов компании, в 2023 г. в финансово-технологическом секторе инцидентов, связанных с дипфейками, стало на 700% больше. Одних только аудиодипфейков уже столько, что технологическая отрасль не успевает разрабатывать инструменты для выявления поддельного контента.
22 августа 2024 года издание The Verge отметило, что новый ИИ-редактор Google научился подделывать любые фото. Новая модель смартфона Pixel 9 от компании Google получила редактор изображений Magic Editor, работающий на базе ИИ. Он позволяет любому пользователю за несколько секунд добавить на фото любой сгенерированный объект. Заметить «подлог» практически невозможно.
Новую функцию можно будет легко использовать для первоклассных фейков, создавая провокационные и «пропагандистские» изображения.
Что самое опасное, это явление почти наверняка станет нормой, поскольку аналогичные функции уже доступны на конкурирующих устройствах или появятся в ближайшее время.
II. Основные разработчики ИИ из Кремниевой долины разделились на «трампистов» и «друзей Харрис»
Анализ этой ситуации содержится в статье Валерия Виртцхафтера и Дерека Белля в Brookings «Что означают выборы 2024 года для будущего управления ИИ?» (25.07.2024):
«Следующему президенту предстоит принять важные решения о том, как управлять все более мощными и разрушительными системами ИИ и как расставить приоритеты в вопросах, связанных с безопасностью, инновациями, конкуренцией и рисками.
Подход администрации Трампа
Хотя ИИ еще не ворвался в общественное сознание во время правления администрации Трампа, его политика в отношении управления ИИ в основном была сосредоточена на продвижении, разработке и внедрении систем ИИ. За четыре года администрация издала два крупных указа.
Первый учредил Американскую инициативу в области ИИ, которая позже была кодифицирована в виде закона. В нем изложены пять руководящих принципов, включая обучение американских рабочих, укрепление общественного доверия и защиту гражданских свобод, а также взаимодействие на международном уровне. Указ изложил принципы использования ИИ правительством, поручил Административно-бюджетному управлению разработать руководство по реализации этих принципов, потребовал от агентств опубликовать перечни своих сценариев использования ИИ, а также добавил направление ИИ в программу президентских стипендиатов по инновациям.
На международной арене экономическая стратегия администрации Трампа была направлена на то, чтобы лишить противников, а именно Китай, доступа к передовым технологиям, а экспортный контроль стал ключевой чертой политики Соединенных Штатов в отношении Китая.
Администрация Трампа также участвовала в международных форумах по разработке норм в области ИИ. Она поддержала принятие принципов ИИ Организации экономического сотрудничества и развития 2019 года, стала Основателем Глобального партнерства по ИИ в 2020 году и единогласно присоединилась к Группе правительственных экспертов Конференции Организации Объединенных Наций по конкретным видам обычного оружия.
Подход администрации Байдена
Помимо содействия разработке и внедрению ИИ, администрация Байдена в подходе к политике в области ИИ уделяет больше внимания снижению рисков и вреда. Одним из его первых крупных руководящих документов был Проект Билля о правах ИИ, набор ценностей, опубликованных в октябре 2022 года, которые, хотя и не являются юридически обязательными, призваны помочь в разработке безопасного и ответственного ИИ.
Вирусный запуск ChatGPT в ноябре 2022 года ознаменовал собой смену парадигмы для более широких разговоров в Вашингтоне. Из 298 законопроектов, имеющих отношение к управлению и использованию ИИ, внесенных с начала работы Конгресса 115-го созыва, 183 из них были предложены после запуска ChatGPT.
Несмотря на шквал предложений и серию из девяти экспертов Форумов по AI Insight созываемых в Сенате (и последующая Дорожная карта), Конгресс до сих пор не смог принять всеобъемлющее законодательство об ИИ. Вместо этого Белый дом направляет усилия по управлению ИИ, охватывающие широкий спектр исполнительных органов. Таким образом, политика в области ИИ особенно уязвима к изменениям, если в 2025 году произойдет переход ко второй администрации Трампа.
В июле 2023 года администрация Байдена разработала набор Добровольных обязательств в области ИИ по вопросам безопасности и надежности с рядом ведущих разработчиков. Несмотря на то, что они не являются юридически обязательными, большинство разработчиков моделей Frontier зарегистрировались и присоединились к Отраслевой ассоциации по их реализации.
Центральным элементом политики администрации Байдена в области ИИ является Распоряжение октября 2023 года, которое ссылается на Закон об оборонном производстве, чтобы обязать разработчиков передовых систем ИИ делиться результатами испытаний безопасности с правительством США, налагает принцип «Знай своего клиента» на требования к поставщикам облачных услуг и устанавливает стандарты для федеральных агентств по безопасности, защищенности и конфиденциальности ИИ.
Администрация также выпустила меморандум от Административно-бюджетного управления, в котором изложены обязательные руководящие принципы по управлению ИИ, инновациям и снижению рисков для федеральных агентств.
Помимо внутренней политики, администрация Байдена участвовала в переговорах по вопросам управления ИИ на двусторонних и многосторонних форумах, включая сотрудничество в области безопасных и прозрачных систем ИИ через США и Европейский союз Совет по торговле и технологиям, реализация решений G7 Процесс Хиросимы для использования преимуществ ИИ при одновременной защите от потенциального вреда, а также сотрудничество в области стандартов безопасности и оценки между Институтом безопасности ИИ США и Международной сетью аналогичных организаций.
Соединенные Штаты подписали Заявление о намерениях сотрудничать в области безопасности ИИ с другими странами, обязуясь постоянно диалог между Управлением ИИ ЕС и Институтом безопасности ИИ США, а также Партнерское соглашение с Институтом безопасности ИИ Соединенного Королевства, который недавно объявил об открытии филиала в Сан-Франциско.
Соединенные Штаты также работали с партнерами над политической декларацией ИИ в вооруженных силах и продолжают участвовать в работе Группы правительственных экспертов Конференции ООН по конкретным видам обычного оружия.
Администрация Байдена перезапустила двусторонние диалоги с Китаем по ключевым «техническим и политическим» вопросам, где обе стороны обсудили их подходы к безопасности ИИ и управлению рисками. Несмотря на этот диалог, администрация не только ввела расширенные тарифы Трампа в некоторых секторах, но также контролировала «сейсмический сдвиг к более строгому экспортному контролю в отношении передовых полупроводников и производственного оборудования». Администрация также издала Распоряжение «Требование скрининга исходящих инвестиций для критически важных развивающихся технологических отраслей».
Взгляд в будущее
На протяжении всего срока администрации Байдена вице-президент Камала Харрис, кандидат в президенты от Демократической партии, играла ведущую роль в политических усилиях в области ИИ.
Она курировала делегацию США в Соединенном Королевстве для участия в Глобальном саммите по безопасности ИИ и способствовала диалогу с генеральными директорами ведущих разработчиков ИИ.
В отсутствие движения в Конгрессе администрация Харрис будет по-прежнему ограничена существующими исполнительными органами власти. Она также, вероятно, сохранит многие из политик предыдущей администрации, с указом Байдена (EO) в качестве руководящего документа и постоянным вниманием к снижению рисков, ответственному развитию и инвестициям.
Трамп, напротив, поклялся отменить указ Байдена «в первый день» после вступления в должность президента и заменит его чем-то, что поддерживает «развитие ИИ, основанное на свободе слова и процветании человека».
Наиболее значительным последствием отмены указа Байдена станет отмена режима отчетности для разработчиков передовых моделей и поставщиков облачных услуг. Эти требования являются одним из немногих юридически обязательных механизмов прозрачности для компаний, которые разрабатывают или предоставляют ресурсы для наиболее мощных и потенциально опасных систем ИИ.
Двойная цель Трампа — задушение технологической отрасли Китая и обеспечение американского лидерства в разработке мощных систем ИИ — обнажает явные противоречия с демократами в более широкой технологической повестке дня Трампа: антагонизм по отношению к Китаю, оппортунистическая политика сдвиг на TikTok и презрение к цензуре Big Tech, сопровождаемое уютными отношениями с некоторыми частями Кремниевой долины.
Тем не менее, есть несколько областей, в которых можно ожидать преемственности. Экспортный контроль над передовым оборудованием для производства полупроводников начался при администрации Трампа и ускорился при администрации Байдена. Есть некоторые указание, что Харрис может продолжить этот целенаправленный подход в новой администрации».
***
Реальное влияние технологических компаний – разработчиков ИИ на выборы в США 2024 года никем из них не будет анонсироваться или описываться в СМИ и социальных сетях.
Большинство компаний сейчас делают заявления о необходимости чистоты выборов и недопущения недобросовестных разработчиков ИИ к выборам.
Что будет происходить на самом деле, покрыто тайной.
Ясно одно – Кремниевая долина в настоящее время определит исход выборов в США!
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/prezidenta_ssha_vibiraet_ii
10.08.2024 ИИ в Америке поглощает сферу национальной безопасности
Правовые и политические проблемы регулирования
1. Microsoft и Palantir объединяются для расширения возможностей ИИ для оборонных и разведывательных агентств США
Microsoft и Palantir расширяют свое текущее партнерство, чтобы предоставить своим клиентам из оборонных и разведывательных структур США больше возможностей облачного ИИ и анализа данных.
Партнерство, представляющее собой интегрированный набор систем Palantir и Microsoft, объединит крупные языковые модели, созданные Microsoft с помощью Azure OpenAI, в продуктах Palantir Foundry, Gotham, Apollo и AI Platform, доступных в правительственных и секретных облачных средах.
«Palantir и Microsoft имеют долгую историю работы в безопасных и аккредитованных условиях, предоставляя ведущие технологии для важнейших задач Министерства обороны и разведки США», — говорится в пресс-релизе, объявляющем о партнерстве.
Представленный 8 августа 2024 года Palantir также примет возможности Microsoft с технологией OpenAI в своих средах Secret и Top Secret. Ключевым преимуществом станет возможность для избранных федеральных клиентов использовать возможности ИИ и машинного обучения в своих операциях, включая логистику, контракты и планирование действий, а также другие рабочие процессы.
«Это расширенное партнерство между Microsoft и Palantir поможет ускорить безопасное, надежное и ответственное развертывание передовых возможностей ИИ для правительства США», — заявила в пресс-релизе Деб Капп, президент Microsoft Americas. «Palantir, лидер в предоставлении действенных идей правительству, теперь будет использовать возможности правительственных и секретных облаков Microsoft, а также надежные модели Azure OpenAI для дальнейшей разработки инноваций ИИ для задач национальной безопасности».
«Привлечение возможностей Palantir и Microsoft в аппарат национальной безопасности США — это шаг вперед в том, как мы можем поддерживать оборонные и разведывательные сообщества», — сказал в пресс-релизе Шьям Санкар, главный технический директор Palantir. «Palantir AIP стал пионером в подходе к операционализации ценности ИИ — за пределами чата — на предприятии. Наша миссия — предоставить это программное преимущество, и мы рады стать первым отраслевым партнером, который развернет службу Microsoft Azure OpenAI в секретных средах».
Расширенные предложения контрактов Microsoft и Palantir следуют за текущими усилиями агентства по внедрению надежных решений ИИ в федеральные операции. В конце июля 2024 года должностные лица Агентства национальной безопасности подтвердили, что более 7000 аналитиков АНБ используют генеративные инструменты ИИ в своей работе, отметив, что, хотя некоторые из них являются пилотными программами, агентство стремится сосредоточиться на нескольких избранных для дальнейшей разработки и развертывания.
2. Пентагон выбрал системы для второго этапа программы Replicator — инициативы по быстрому развертыванию тысяч беспилотников с ИИ
Директор подразделения оборонных инноваций (DIU) Даг Бек сообщил журналистам 8 августа 2024 года, что программа заключила контракты на некоторые, но не на все системы, которые будут закуплены на втором этапе программы.
Выступая на конференции Национальной оборонно-промышленной ассоциации по новым технологиям, Бек отметил, что с момента запуска программы Министерство обороны США заключило контракты на 30 различных проектов в области аппаратного и программного обеспечения с более чем 50 крупными субподрядами с «целым рядом различных компаний».
Заместитель министра обороны Кэтлин Хикс представила планы министерства относительно Replicator почти год назад. С тех пор Пентагон выбрал свой первый транш возможностей, разработал стратегии приобретения и концепции операций, обучил подразделения использованию начальных систем и обеспечил почти 1 миллиард долларов на эти усилия в 2024 и 2025 финансовых годах.
«Хотя нам предстоит еще много работы, мы на пути к достижению первоначальной цели Replicator — нескольких тысяч устройств в различных доменах за 18–24 месяца, то есть к концу августа 2025 года», — сказала она.
DIU играет ведущую роль в проверке оборудования, которое Пентагон будет закупать через Replicator, и тесно сотрудничает с Главным управлением по цифровым технологиям и ИИ (CDAO) для определения цифровой основы, которая позволит этим системам работать вместе.
CDAO создает центр ИИ для Replicator, а его набор возможностей Alpha-1, который управление развернуло в начале 2024 года и который используется ВМС и Корпусом морской пехоты, предоставит инструменты, которые помогут DIU подтвердить, что системы работают так, как ожидалось.
3. Как ИИ и программное обеспечение управляют двумя крупнейшими программами ВВС США
Достижения в области ИИ и разработки программного обеспечения будут иметь ключевое значение для двух ведущих программ ВВС США: DAF Battle Network , которая объединяет датчики и стрелков по всему миру, и Collaborative Combat Aircraft — автономных беспилотных летательных аппаратов, заявил 7 августа 2024 года Эндрю Хантер, руководитель отдела закупок услуг.
Выступая на конференции Национальной оборонно-промышленной ассоциации «Новые технологии для обороны», Хантер расхвалил обе программы как успешные примеры изменений в процессе закупок для вооруженных сил и областей, в которых Пентагон может воспользоваться широким интересом к этим технологиям.
«Вкладываются огромные инвестиции, которые мы можем извлечь из них выгоду и использовать», — сказал Хантер. «И поэтому мы делаем именно это, когда дело касается нашей DAF Battle Network для целей командования, контроля, связи и управления боем, а также для наших усилий по обеспечению автономии с нашей программой Collaborative Combat Aircraft. И мы продолжаем использовать это».
В ходе панельной дискуссии с заместителем министра обороны по закупкам и обеспечению Уильямом ЛаПлэнтом Хантеру был задан вопрос о том, как ВВС используют новые «пути» для разработки и внедрения программного обеспечения за пределами традиционного процесса закупок Пентагона.
Первым примером стала боевая сеть DAF — масштабная инициатива, охватывающая усовершенствованную систему управления боевыми действиями и многое другое, являющаяся частью инициативы Пентагона «Объединенное командование и управление всеми сферами» (CJADC2).
«Мы довольно много использовали программный путь для нашей DAF Battle Network, которая является своего рода общей картиной эволюции того, куда мы идем с программой ABMS, как корпоративной возможностью делиться информацией не только в рамках Департамента ВВС, но и с объединенными силами, с союзниками и партнерами», — сказал Хантер. «Так что многие из этих усилий были программами программного пути. И я думаю, что это было действительно полезно для нас, это было эффективно. Это позволило нам быть более гибкими».
Он добавил, что большая часть этого успеха была достигнута за счет создания крупных «пулов поставщиков с модульной архитектурой открытых систем». Это позволило ВВС заключать контракты на работу в сети по частям, что способствовало конкуренции.
Например, в июле 2022 года ВВС заключили с 27 компаниями контракт на неограниченную поставку, неограниченное количество, с несколькими контрактами на сумму до 950 миллионов долларов на возможности CJADC2. Несколько месяцев спустя они выбрали пять компаний для участия в своем «Консорциуме цифровой инфраструктуры ABMS».
Некоторые из этих компаний являются крупными подрядчиками, такими как L3Harris, Northrop Grumman и Raytheon. Другие, однако, намного меньше или не так традиционно вовлечены в оборону, и Хантер сказал, что все они играют свою роль.
Это может оказаться особенно важным, поскольку виды программного обеспечения, необходимые ВВС, меняются.
«Когда я говорю о DAF Battle Network, вы говорите о глобальном оперативном опыте — о многих, многих тысячах вещей, происходящих, по сути, одновременно», — сказал он. «Мы, безусловно, будем делать все больше и больше ИИ, чтобы успешно это реализовать, хотя этот ИИ по сути существует для поддержки людей, принимающих решения».
По словам Хантера, как и DAF Battle Network, Collaborative Combat Aircraft будет нуждаться в ИИ для автоматизации низкоуровневых задач и позволит летчикам сосредоточиться на «высокоуровневых вмешательствах».
4. «Самоуспокоенность ИИ ставит под угрозу оборону Запада»
Такой вывод делает Чарльз Фергюсон в статье с аналогичным названием на сайте Project Syndicate (05.08.2024). Автор полагает, что военные конфликты Запада с Россией и Китаем выявили серьезные системные слабости в вооруженных силах США и Европы и их оборонно-промышленных базах.
«Эти проблемы проистекают из фундаментальных технологических тенденций. На Украине дорогостоящие пилотируемые системы, такие как танки, боевые самолеты и военные корабли, оказались чрезвычайно уязвимыми для недорогих беспилотных летательных аппаратов, крылатых ракет и управляемых ракет.
Недорогие беспилотники массового производства Китая, России, Ирана, Турции, а теперь и Украины стали как важнейшим наступательным оружием, так и ценными инструментами для наблюдения, наведения и наведения. Часто основанные на широко доступных коммерческих продуктах, дроны производятся миллионами по цене всего от 1000 до 50 000 долларов за штуку».
«Хуже того, эта ситуация является лишь прелюдией к будущему беспилотного автономного оружия. Большинство современных дронов либо управляются дистанционно человеком, либо просто управляются с помощью GPS или цифровых карт. Но новые технологии ИИ, основанные в основном на общедоступных академических исследованиях и коммерческих продуктах, скоро изменят военное дело и, возможно, терроризм.
Дроны с поддержкой ИИ уже могут работать в высокоскоординированных роях, например, позволяя противнику окружить цель и предотвратить ее бегство. Само наведение становится чрезвычайно точным — вплоть до идентификации отдельного лица, предмета религиозной одежды или конкретного номерного знака транспортного средства — и рои дронов все чаще могут перемещаться по городам, лесам и зданиям.
Далее следуют коммерческие и военные гуманоидные роботы. Видео, опубликованные исследователями из Стэнфордского университета в январе 2024 года, основанные на их недавнем исследовании, показывают, как роботы, управляемые ИИ, выполняют домашние задачи, включая жарку морепродуктов на сковороде и уборку пролитого вина. В то время как приготовление креветок далеко не то же самое, что управление снайперской винтовкой или сборка компонентов ракет, существует общее мнение о том, что «момент ChatGPT» в гуманоидной робототехнике настал.
Продукты, управляемые ИИ, как военные, так и коммерческие, зависят от сложного многоуровневого технологического стека, в основе которого лежит полупроводниковое капитальное оборудование (высокоточные машины, производящие чипы), полупроводники (например, процессоры ИИ Nvidia), центры обработки данных, модели ИИ и их обучающие данные, облачные сервисы ИИ, проектирование аппаратных продуктов, производство, а также разработка приложений и систем. США, Западная Европа, Тайвань и Южная Корея в совокупности по-прежнему опережают Китай (и Россию) в большинстве этих областей, но их лидерство сокращается, и Китай уже доминирует на мировых рынках серийного производства техники двойного назначения, такой как беспилотники и роботы.
Реакция Запада на этот вызов до сих пор была удручающе неадекватной. Экспортный контроль за технологиями с поддержкой ИИ ограничен полупроводниковым капитальным оборудованием и процессорами, и даже им сопротивляются, ослабляют и обходят. В то время как экспорт высокопроизводительных процессоров ИИ в Китай был запрещен, доступ к облачным сервисам США, использующим те же процессоры, остается открытым, и Nvidia теперь поставляет Китаю процессоры ИИ, почти такие же мощные, но специально адаптированные к экспортному контролю США. Не существует никакого контроля за экспортом или лицензированием исследований, моделей или обучающих данных ИИ.
Хотя некоторые американские компании, такие как Google, сохранили свои модели ИИ проприетарными и ограничили доступ Китая к своим технологиям, другие поступили наоборот. В то время как OpenAI запрещает прямой доступ Китая к своим интерфейсам прикладного программирования, те же API остаются доступными через Microsoft. Между тем, Meta приняла стратегию полностью открытого исходного кода для своих усилий в области искусственного интеллекта, а венчурная компания Andreessen Horowitz лоббирует предотвращение экспортного контроля (или любых нормативных ограничений) для моделей ИИ с открытым исходным кодом».
«Таким образом, - пишут авторы, - технологический сектор США и Европы ведет себя как круговая расстрельная команда, в которой отдельные фирмы пытаются продать как можно больше в Китай.
Пытаясь опередить своих ближайших конкурентов, каждая фирма ослабляет долгосрочные позиции всех остальных, а в конечном счете даже свою собственную. Если так будет продолжаться и дальше, то в предсказуемом результате США и Западная Европа будут отставать от Китая, а также от России, Ирана или децентрализованных террористических группировок как в боевых действиях, управляемых ИИ, так и в коммерческих приложениях ИИ.
Многие технологи и менеджеры в Кремниевой долине и правительственных организациях знают об этом риске и очень обеспокоены им. Но, несмотря на некоторые значительные инициативы (такие как Подразделение оборонных инноваций в Пентагоне), в поведении оборонной промышленности или государственной политике произошло относительно мало изменений.
Эта ситуация особенно абсурдна, учитывая очевидную возможность для чрезвычайно выгодной большой сделки: молчаливое согласие промышленности на навязываемый государством экспортный контроль в обмен на поддерживаемые государством коллективные переговоры с Китаем о лицензировании технологий, доступе к рынкам и других коммерческих выгодах. Несмотря на некоторые области подлинной напряженности, существует поразительно высокая степень согласованности между интересами национальной безопасности и долгосрочными коллективными интересами западного технологического сектора.
Логичная стратегия заключается в том, чтобы правительство США и Европейский Союз выступали в качестве агентов на переговорах от имени западной промышленности в отношениях с Китаем. Это означает, что необходимо действовать согласованно с отраслью, сохраняя при этом власть и независимость, необходимые для установления и обеспечения строгого контроля (что отрасль должна признать как отвечающее ее собственным долгосрочным интересам).
К сожалению, в настоящее время дело идет не к этому. Несмотря на то, что политики и технологи осознают угрозу, лежащие в ее основе технологии в настоящее время развиваются значительно быстрее, чем политические дебаты и законодательные процессы, не говоря уже о производственных циклах Пентагона и традиционных оборонных подрядчиков».
5. «Как сделать управление военным ИИ более надежным»
Так называется статья Брианны Розен в War On The Rocks (06.08.2024). Автор пишет:
«Война с поддержкой ИИ достигла своего «момента Оппенгеймера» (распространение ИИ в военном деле часто сравнивают с разработкой ядерного оружия в рамках проекта, которым в США руководил Дж. Роберт Оппенгеймер – Е.Л., В.О.). От подсобных помещений до поля боя, ИИ в настоящее время интегрируется во весь спектр военных операций, включая логистику, сбор разведданных, военные игры, принятие решений, идентификацию целей и системы вооружения, с повышением уровня автономности.
Украинские военные запускают беспилотники с поддержкой ИИ. Армия обороны Израиля полагается на ИИ для ускорения и расширения целеуказания в Газе, а Пентагон использует ИИ для определения целей для авиаударов.
Военная революция в области ИИ уже началась, и споры о том, как она будет управляться, разгораются.
Чтобы ответственно и быстро ориентироваться в этом моменте, политики спешат разработать структуры управления ИИ, даже когда инструменты ИИ развертываются на поле боя.
В Соединенных Штатах указ администрации Байдена об ИИ предписывает правительству США подготовить меморандум о военном и разведывательном использовании этой технологической области. Ожидается, что в скором времени он будет доработан.
Предвыборный штаб Трампа пообещал отменить этот приказ и, как сообщается, планирует запустить серию «Манхэттенских проектов», чтобы отменить «обременительные правила». На международной арене Соединенные Штаты работают со странами-единомышленниками над расширением первого в истории международного соглашения о военном использовании ИИ — не имеющей обязательной юридической силы декларации — в преддверии второго Саммита по ответственному искусственному интеллекту в военной сфере в сентябре 2024 года».
Розен считает, что «по мере того, как ИИ проникает в поле боя, пришло время внедрить политику и достичь консенсуса в отношении того, как он будет управляться. И хотя политические дебаты наконец-то вышли за рамки автономных систем оружия летального действия, системы управления по-прежнему страдают от узкого фокуса на военных операциях и международном гуманитарном праве, оставляя критические пробелы в защите гражданского населения. Опираясь на международное соглашение, у политиков есть быстро закрывающееся окно возможностей для решения этих проблем и обеспечения реальной безопасности военного ИИ — на поле боя и за его пределами».
Мифы и заблуждения
Прежде чем решать вопросы управления, необходимо развеять несколько мифов и заблуждений о военном ИИ.
Во-первых, существует тенденция воспринимать военный ИИ как монолитную категорию, сродни ядерному оружию или баллистическим ракетам. Но ИИ — это технология общего назначения, охватывающая широкий спектр вариантов использования и приложений. Законы, нормы или политики, которые подходят для одного приложения, могут быть неприменимыми или неподходящими для другого. Хотя термин «военный ИИ» может быть полезным сокращением, содержательные дискуссии об управлении ИИ должны учитывать конкретные сценарии использования или, по крайней мере, кластеры сценариев использования, которые имеют схожие характеристики.
Во-вторых, военный ИИ не ограничивается военными организациями. Государства полагаются на военные, разведывательные и дипломатические службы для формирования боевого пространства и получения асимметричных преимуществ. Каждое из этих сообществ использует различные приложения ИИ для выполнения своих конкретных миссий. Разведывательные агентства, в частности, полагаются на ИИ для сбора, сортировки и анализа огромных объемов данных в поддержку военных операций. Таким образом, любой режим управления, который сосредоточен исключительно на оперативном военном применении, не сможет обеспечить необходимые гарантии в критических точках «цепи убийства» или других процессов принятия решений.
Наконец, концепция «ответственного ИИ» не должна быть единственным пробным камнем для управления и регулирования.
ИИ изменит стратегический баланс сил, что приведет к возникновению новых дилемм безопасности, где наиболее ответственным курсом действий может быть отказ от регулирования сверх того, что уже требуется законом.
Должны ли политики связывать себе руки по более строгим стандартам, когда ИИ предоставляет противникам решающее стратегическое преимущество в войне? Каков ответственный образ действий при таком раскладе?
В более широком смысле, когда речь заходит о национальной безопасности, двусмысленность формулировки «ответственный ИИ» оставляет большое пространство для интерпретации, подрывая усилия по достижению глобального консенсуса. Как мы видели в киберпространстве в последние десятилетия, такие понятия, как «ответственность», «безопасность» и «права», часто не пересекают геополитические барьеры.
Ответственный ИИ — это не то же самое, что управление ИИ. И по мере того, как мы стремимся к выработке общего понимания того, как должно выглядеть управление ИИ, важно помнить о том, что управление — это нечто большее, чем просто закон.
Государственное управление как международное право
Дискуссии об управлении военным ИИ, как правило, начинаются с юриспруденции. На протяжении более десяти лет государства обсуждают целесообразность заключения нового договора или введения запрета на автономные системы оружия летального действия в международных учреждениях и на форумах, включая Конвенцию Организации Объединенных Наций о конкретных видах обычного оружия. Тем не менее, был достигнут незначительный прогресс.
Государства неохотно запрещают приложения ИИ, которые могут иметь значительную стратегическую полезность, и не желают быть прозрачными в отношении чувствительных инструментов, используемых в военных и разведывательных операциях. Учитывая эти реалии и растущую геополитическую напряженность, перспективы заключения международного договора или прямого запрета представляются незначительными.
Вместо этого государства ухватились за существующее законодательство, в частности международное гуманитарное право, в качестве стандарта для регулирования военного ИИ. В Политической декларации об ответственном военном использовании искусственного интеллекта и автономии, которую поддержали более 50 стран, подчеркивается, что «использование ИИ в вооруженных конфликтах должно осуществляться в соответствии с обязательствами государств по международному гуманитарному праву, включая его основополагающие принципы». Соединенные Штаты, Великобритания и Россия, среди прочих государств, неоднократно подчеркивали, что международного гуманитарного права достаточно для регулирования автономных систем оружия летального действия.
Эта точка зрения в значительной степени верна. Ничто в ИИ формально или функционально не меняет обязательств, которые государства имеют в соответствии с внутренним или международным законодательством. ИИ, как и другие технологии, которые были до него, является инструментом войны, а не оружием сам по себе. ИИ — это инструмент. Воздействие этого инструмента и законы, регулирующие его, зависят от того, как он используется. До тех пор, пока ИИ используется в военных операциях, соответствующих международному праву, существующее законодательство теоретически должно обеспечивать достаточную защиту.
Однако было бы ошибкой обращаться к международному гуманитарному праву как к единственной системе регулирования приложений ИИ, связанных с обороной. Многие системы ИИ не имеют прямого отношения к убийству на войне, даже если они увеличивают его темпы, масштабы или масштабы. Как должны регулироваться эти инструменты? Например, в соответствии со статьей 36 Дополнительного протокола I к Женевским конвенциям государства обязаны обеспечить, чтобы все «оружие, средства или методы ведения войны» подвергались правовой проверке для обеспечения соблюдения международного гуманитарного права. Но невооруженные приложения ИИ, такие как системы поддержки принятия решений, не обязательно будут подчиняться тем же правилам. Точно так же международное гуманитарное право просто не является подходящим сводом законов, когда речь идет о разработке и развертывании приложений ИИ, используемых в разведывательной деятельности, которые просто способствуют военным операциям.
По мере того, как использование ИИ в военных целях становится все более распространенным, развертывание за пределами четко определенных вооруженных конфликтов становится все более важным для регулирования. В этих условиях требуется соблюдение более строгих стандартов защиты, в частности, международного права в области прав человека. В марте 2024 года Генеральная Ассамблея ООН приняла резолюцию, не имеющую обязательной силы, в которой признала, что государства должны «воздерживаться от использования систем искусственного интеллекта, которые невозможно использовать в соответствии с международным правом в области прав человека».
Но в этой резолюции прямо не говорится о применении ИИ в военных и разведывательных целях. Когда ИИ используется вне вооруженного конфликта, крайне важно, чтобы применялся более защитный правовой режим международного права в области прав человека. В противном случае, исключительные правила, которые применяются на войне, рискуют стать режимом по умолчанию во всем спектре случаев использования военного ИИ.
Подобно тому, как существующее законодательство применяется к ИИ, неправильное использование инструментов ИИ также может способствовать серьезным нарушениям международного права, потенциально в больших масштабах и более быстрыми темпами, чем без использования таких инструментов.
Это особенно верно в условиях динамического таргетинга и быстро меняющихся конфликтов, когда когнитивная перегрузка и предвзятость автоматизации препятствуют тщательному анализу результатов ИИ.
Например, неправильное использование систем поддержки принятия решений ИИ или беспрекословное доверие к ним может привести к тому, что операторы будут ошибочно идентифицировать гражданских лиц как комбатантов и нацеливаться на первых, нарушая принцип различения. Если неправильная идентификация происходит в достаточно больших масштабах, операторы могут нанести удары, которые непропорционально убьют мирных жителей по сравнению с полученным конкретным прямым военным преимуществом.
Даже если вышеупомянутые проблемы будут решены, закон все равно не будет обеспечивать надежное управление ИИ из-за острых проблем с проверкой и правоприменением. В отличие от ударов беспилотников, практически невозможно проверить, использовались ли инструменты ИИ в войне, и если да, то когда, потому что они не обязательно изменяют физическую сигнатуру систем вооружения, которые часто переключаются между режимами ИИ и без него.
Эта техническая особенность означает, что внешним наблюдателям может быть трудно определить, способствовал ли ИИ, в отличие от военной системы без ИИ в качестве вспомогательного средства, нарушению международного права, и если да, то когда.
Это также подчеркивает проблемы, связанные с обеспечением адекватных механизмов принуждения, поскольку легкость дезертирства гораздо выше, чем при использовании режимов контроля над обычными вооружениями.
В конечном счете, самый пагубный миф о военном ИИ заключается в том, что существует четкое согласие о том, как международное право регулирует его использование, и что существующего законодательства достаточно для обеспечения ответственного использования всего спектра приложений ИИ.
Подобно глобальным дебатам о защите международного права в киберпространстве, государства должны выработать четкую позицию в отношении того, когда и как соответствующие правовые режимы применяются в сложных случаях. Срочно необходимы дополнительные руководящие указания для обеспечения правильного толкования и применения международного гуманитарного права, а также для усиления гарантий в отношении приложений ИИ, которые выходят за рамки международного гуманитарного права.
Вне закона
Как и в случае с другими новыми технологиями, решение проблем управления ИИ может лежать скорее на уровне политики, чем закона. Директивные указания, политические декларации, правила применения вооруженной силы и кодексы поведения играют решающую роль в тех областях, где законодательство трудно интерпретировать или применять. Не имеющие обязательной юридической силы политики также помогают достичь консенсуса по международным нормам, связанным с разработкой и развертыванием военного ИИ.
Политическая декларация представляет собой важный шаг на пути к достижению этой цели. Однако принципы, содержащиеся в этом соглашении, должны быть укреплены, чтобы в полной мере реализовать его потенциал. В то время как политики готовятся к саммиту «Ответственный ИИ в военной сфере» 2024 года, необходимо предпринять конкретные шаги для развенчания мифов и заблуждений, связанных с военным ИИ, которые препятствуют эффективному управлению.
В качестве отправной точки государства должны расширить сферу охвата и амбиции Политической декларации. В настоящее время эти принципы распространяются в первую очередь на западные страны и входящие в них военные организации. Ключевые державы, в частности Китай, Россия и Израиль, не поддержали его. Это проблематично, учитывая, что Украина и Газа сейчас являются испытательными полигонами для военного ИИ.
Для тех стран, которые одобрили Политическую декларацию, сфера применения ИИ должна быть расширена, чтобы включить в нее все связанные с обороной приложения ИИ, как внутри, так и за пределами военной цепи командования. В настоящее время декларация требует, чтобы государства «обеспечивали, чтобы их военные организации приняли и реализовали эти принципы для ответственной разработки, развертывания и использования возможностей ИИ».
Это означает, что разведывательные агентства, не входящие в состав военных организаций, такие как ЦРУ, не обязаны придерживаться принципов, содержащихся в декларации, даже если они используют ИИ для определения целей для военных действий.
В связи с этим государства должны принять меры для разъяснения того, как закон применяется ко всему спектру случаев использования ИИ. Это имеет решающее значение для обеспечения более широкого соблюдения международного гуманитарного права, международного права в области прав человека и всех других применимых правовых режимов.
По мере того, как государства работают над реализацией Политической декларации, крайне важно обмениваться передовым опытом по снижению рисков в конкретных случаях использования, в том числе посредством юридических обзоров, кодексов поведения и политических рекомендаций. НАТО, а также разведывательный альянс «Пять глаз» (Австралия, Канада, Новая Зеландия, Великобритания и Соединенные Штаты) были бы естественной площадкой для обмена передовым опытом, учитывая согласованность стратегических интересов и созданные механизмы обмена разведданными. Но взаимодействие не должно останавливаться на этом.
Крайне важно разработать меры по укреплению доверия с Китаем и Глобальным Югом для социализации и институционализации норм, связанных с военным ИИ. Это не должно начинаться с подхода, основанного на ценностях, а скорее с общих интересов государств в обеспечении того, чтобы военный ИИ не нарушил глобальную безопасность, стабильность и процветание.
И последнее, но не менее важное: наращивание потенциала должно быть в центре внимания предстоящего саммита «Ответственный искусственный интеллект в военной сфере». Государства должны обмениваться не только передовым опытом, но и техническими инструментами и экспертными знаниями для обеспечения того, чтобы все стороны, поддерживающие Политическую декларацию, могли в полной мере выполнять ее стандарты. До сих пор наращивание потенциала было отсутствующей частью разговора о том, как сделать военный ИИ более безопасным. У политиков есть возможность изменить этот дискурс в ходе встреч перед саммитом, которые проходят сейчас.
Розен делает вывод:
«Будущее управления военным ИИ зависит от совместных политических усилий, а не от правового регулирования. Политическая декларация знаменует собой значительный шаг на пути к установлению международных норм, но для того, чтобы быть эффективной, она должна выходить за рамки распространенных мифов и заблуждений, связанных с военным ИИ.
По мере приближения следующего саммита «Ответственный ИИ в военной сфере» директивным органам следует сосредоточиться на уточнении того, как закон применяется к конкретным приложениям ИИ, определении политических инструментов для заполнения правовых пробелов в защите и наращивании потенциала для внедрения стандартов управления внутри и за пределами традиционных структур альянса.
В нынешних геополитических условиях это наиболее жизнеспособный путь для снижения рисков, связанных с военным ИИ, использования его возможностей и поддержания глобальной безопасности».
6. «Все споры о безопасности ИИ ошибочны»
Так считает один из крупнейших специалистов в области ИИ профессор Массачусетского технологического института Дарон Ашемоглу в статье с таким названием на сайте Project Syndicate (05.08.2024). Автор пишет:
«В последние годы возникла огромная индустрия, поскольку Китай, США, Великобритания и Европейский союз сделали безопасность ИИ главным приоритетом. Очевидно, что любая технология – от автомобилей и фармацевтических препаратов до станков и газонокосилок – должна быть разработана максимально безопасной (хотелось бы, чтобы на ранних этапах социальные сети подвергались более пристальному вниманию).
Но просто поднять вопросы безопасности недостаточно. В случае с ИИ дебаты слишком сосредоточены на «безопасности от катастрофических рисков из-за AGI (искусственного общего интеллекта), то есть сверхинтеллекта, который может превзойти всех людей в большинстве когнитивных задач.
Под вопросом находится вопрос «согласованности»: дают ли модели ИИ результаты, соответствующие целям и ценностям их пользователей и разработчиков — тема, которая приводит к различным научно-фантастическим сценариям, в которых появляется сверхразумный ИИ и уничтожает человечество. Бестселлер Брайана Кристиана «Проблема согласованности» в основном сосредоточен на AGI, и те же опасения привели к тому, что Anthropic, одна из ведущих компаний в этой области, создала модели со своими собственными «конституциями», закрепляющими этические ценности и принципы.
Но есть как минимум две причины, по которым эти подходы могут быть ошибочными.
Во-первых, нынешние дебаты о безопасности не только (бесполезно) антропоморфизируют ИИ. Они также заставляют нас фокусироваться на неправильных целях. Поскольку любая технология может быть использована во благо или во зло, в конечном итоге важно то, кто ее контролирует, каковы их цели и каким правилам они подчиняются.
Никакие исследования безопасности не смогли бы предотвратить использование автомобиля в качестве оружия на митинге сторонников превосходства белой расы в Шарлоттсвилле, штат Вирджиния, в 2017 году. Если мы примем предположение, что системы ИИ имеют собственную индивидуальность, мы можем прийти к выводу, что наш единственный вариант — гарантировать, что они имеют правильные ценности и конституции в абстрактном смысле. Но это предположение ложно, и предлагаемое решение будет далеко не верным.
Конечно, контраргумент заключается в том, что если бы AGI когда-либо был достигнут, действительно имело бы значение, была ли система «согласована» с человеческими целями, потому что не осталось бы никаких ограждений, чтобы сдержать хитрость сверхразума. Но это утверждение подводит нас ко второй проблеме с большей частью обсуждения безопасности ИИ. Даже если мы находимся на пути к AGI (что кажется крайне маловероятным ), самой непосредственной опасностью все равно будет неправильное использование не сверхразумного ИИ людьми.
Предположим, что в будущем наступит время (T) (скажем, 2040 год), когда будет изобретен ИИ с высоким интеллектом, и что до тех пор, пока это время не наступит, системы ИИ, не имеющие ИИ с высоким интеллектом, будут по-прежнему неавтономными. (Если бы они стали самодействующими до ИИ с высоким интеллектом, пусть этот день будет T.) Теперь рассмотрим ситуацию за год до T. К этому моменту системы ИИ станут весьма способными (благодаря тому, что окажутся на пороге сверхразума), и вопрос, который мы хотели бы задать, звучит так: кто сейчас контролирует ситуацию?
Ответом, конечно, будут человеческие агенты, индивидуально или коллективно в форме правительства, консорциума или корпорации. Чтобы упростить обсуждение, позвольте мне называть человеческих агентов, отвечающих за ИИ на данном этапе, Корпорацией X. Эта компания (это может быть и больше, чем одна компания, что может быть еще хуже, как мы увидим) сможет использовать свои возможности ИИ для любых целей, которые она захочет. Если бы она хотела уничтожить демократию и поработить людей, она могла бы это сделать. Угроза, которую так много комментаторов приписывают ИИ, уже возникла бы до ИИ.
На самом деле ситуация, вероятно, была бы хуже, чем это описание, потому что Корпорация X могла бы добиться аналогичного результата, даже если бы ее намерением не было уничтожение демократии. Если ее собственные цели не были бы полностью согласованы с демократией (что неизбежно), демократия могла бы пострадать как непреднамеренное последствие (как это было в случае с социальными сетями).
Например, неравенство, превышающее некоторый порог, может поставить под угрозу надлежащее функционирование демократии. Но этот факт не остановит Корпорацию X от того, чтобы делать все возможное для обогащения себя или своих акционеров. Любые ограждения, встроенные в ее модели ИИ для предотвращения злонамеренного использования, не будут иметь значения, поскольку Корпорация X по-прежнему может использовать свою технологию так, как захочет.
Аналогично, если бы существовали две компании, Корпорация X и Корпорация Y, которые контролировали бы высокоэффективные модели ИИ, то одна из них или обе все равно могли бы преследовать цели, наносящие ущерб социальной сплоченности, демократии и свободе человека. (И нет, аргумент о том, что они будут ограничивать друг друга, не убедителен. Наоборот, их конкуренция могла бы сделать их еще более безжалостными.)
Таким образом, даже если мы получим то, чего хотят большинство исследователей безопасности ИИ – надлежащее согласование и ограничения на AGI – мы не будем в безопасности. Последствия этого вывода должны быть очевидны: нам нужны гораздо более сильные институты для сдерживания технологических компаний и гораздо более сильные формы демократических и гражданских действий, чтобы заставить правительства, контролирующие ИИ, нести ответственность. Эта задача совершенно отдельная и отличается от решения проблем предвзятости в моделях ИИ или их согласования с человеческими целями.
Почему же тогда мы так зациклены на потенциальном поведении антропоморфизированного ИИ? Отчасти это шумиха, которая помогает технологической индустрии привлекать больше талантов и инвестиций. Чем больше все говорят о том, как может действовать сверхразумный ИИ, тем больше общественность начинает думать, что ИИ неизбежен. Розничные и институциональные инвесторы вложатся в следующее большое дело, а руководители технологических компаний, выросшие на научно-фантастических изображениях сверхразумного ИИ, получат еще один бесплатный пропуск. Мы должны начать уделять больше внимания более непосредственным рискам.
***
Ашемоглу пишет о довольно абстрактной мирной ситуации.
Но его коллеги в вышеприведенных публикациях дают реальную картину геополитической ситуации, далекой от мира.
В происходящих военных конфликтах ИИ играет уже чуть ли не определяющее значение.
И это пока далеко не AGI.
Но верен главный вывод Ашемоглу об ошибочности создания безопасного ИИ любого типа.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_v_amerike_pogloshaet_sferu_natcional_noj_bezopasnosti
10.07.2024 ИИ в ЦРУ
Общедоступные и совершенно секретные инструменты
В соответствии с целями агентства по управлению ИИ в 2023 году ЦРУ создало Совет по управлению ИИ. В настоящее время агентство работает над меморандумом о национальной безопасности, который будет решать «уникальные проблемы разработки и управления ИИ в сфере национальной безопасности».
В 2023 году ЦРУ предприняло инициативу по созданию общей платформы общих служб, и с тех пор оно продолжает разрабатывать и развивать каталогизацию моделей и данных.
Развивая эти усилия, ЦРУ также разрабатывает платформу «модели как услуги» для поддержки многопользовательской среды для размещения микросервисов с целью централизации развертывания и обслуживания моделей ИИ.
Благодаря централизованной платформе «модели как услуга» команды ЦРУ по науке о данных будут иметь общий подход к развертыванию и размещению моделей ИИ как услуги, а команды по разработке приложений будут иметь централизованное местоположение, из которого можно интегрировать услуги ИИ в свои приложения. На данный момент это находится в стадии активной разработки.
ЦРУ осваивает генеративный ИИ
«Обычно скрытное ЦРУ так же увлечено генеративным ИИ, как и весь остальной мир, и, возможно, становится все смелее в публичном обсуждении того, как они используют зарождающуюся технологию для улучшения разведывательных операций», пишут аналитики Nextgov/FCW (03.07.2024).
«Мы были захвачены духом времени генеративного ИИ, как и весь мир пару лет назад», — сказала Лакшми Раман, директор ЦРУ по инновациям в области ИИ, 26 июня 2024 года на саммите Amazon Web Services Summit в Вашингтоне.
Лакшми Раман
Раман также сказала, что аналитики разведки США в настоящее время используют генеративный ИИ в засекреченных условиях для помощи в поиске и обнаружении, помощи в написании текстов, выработке идей, мозговом штурме и помощи в генерации контраргументов. Эти новые способы использования генеративного ИИ основываются на существующих возможностях разведывательных агентств, которым уже более десяти лет, включая перевод, транскрипцию и обработку данных на человеческом языке.
Как функциональный менеджер по сбору данных из открытых источников разведывательного сообщества, Раман сказала, что ЦРУ обращается к генеративному ИИ, чтобы идти в ногу с, например, «всеми новостями, которые поступают каждую минуту каждого дня со всего мира». ИИ, по словам Раман, помогает аналитикам разведки прочесывать огромные объемы данных, чтобы извлечь информацию, которая может быть использована для политиков. «В гигантском стоге сена ИИ помогает точно определить иголку».
«В нашем пространстве с открытым исходным кодом мы также добились большого успеха с генеративным ИИ, и мы использовали генеративный ИИ, чтобы помочь классифицировать и сортировать события с открытым исходным кодом, чтобы помочь искать, обнаруживать и выполнять уровни запросов на естественном языке к этим данным», — сказала Раман.
Что ждет ЦРУ и генеративный ИИ?
У Раман есть несколько интересных мыслей о будущем генеративного ИИ в ЦРУ. Она полагает, что он может стать обычной частью каждого из пяти управлений агентства. Однако, в конечном итоге она не видит, что это меняет миссию ЦРУ, а будет лишь служить «еще одним инструментом в нашем наборе инструментов, помогающим управлять взаимодействием человека и машины, которое теперь так необходимо для выполнения нашей работы».
«Мы не рассматриваем ИИ или технологию как нечто, что заменит нашу рабочую силу. Но мы рассматриваем это как нечто, что значительно улучшит нашу рабочую силу и поможет нам ускорить выполнение рутинных задач, в то время, как мы сможем использовать свой разум для работы более высокого порядка», — сказала она. «Поэтому мы определенно рассматриваем ИИ— и генеративный ИИ в частности — как нечто, что может быть включено в рабочие процессы по всему агентству, чтобы помочь нам усилить наше собственное суждение и быстрее проходить наши рабочие процессы».
В связи с этим Раман заявила, она ожидает, что ИИ и рабочие роли, ориентированные на ИИ, будут проникать во все подразделения ЦРУ.
«У нас в ЦРУ очень широкая миссия. У нас есть пять управлений, которые занимаются всем, от создания объективного анализа до сбора информации, создания уникальных, изысканных технических инструментов, направления нашего внимания на цифровой ландшафт, а также выполнения административных и логистических функций», — сказала она.
«Мы много думаем о рисках, и один из них заключается в том, как наши пользователи смогут использовать эти технологии безопасным, надежным и надежным способом». — сказала Раман. «Таким образом, речь идет о том, чтобы убедиться, что челочек может посмотреть на выходные данные и проверить их на точность».
«Вдумчивый» подход к ИИ
Экономисты считают, что генеративный ИИ может ежегодно приносить мировой экономике триллионы долларов. Однако эта технология не лишена рисков. Бесчисленные отчеты демонстрируют так называемые «галлюцинации» — или неточные ответы, — выдаваемые программным обеспечением генеративного ИИ. В условиях национальной безопасности галлюцинации ИИ могут иметь катастрофические последствия. Высокопоставленные сотрудники разведки признают потенциал этой технологии, но должны ответственно взвесить ее риски.
«Мы рады видеть возможности, которые есть у генеративного ИИ», — сказала директор по информационным технологиям разведывательного сообщества Адель Мерритт в интервью в апреле 2024 года. «И мы хотим убедиться, что мы вдумчиво подходим к тому, как мы используем эту новую технологию».
Мерритт курирует разработку стратегии в области информационных технологий в 18 агентствах, входящих в разведывательное сообщество. Она регулярно встречается с другими высокопоставленными должностными лицами разведки, в том числе с директором по данным разведывательного сообщества Лори Уэйд, недавно назначенным директором по ИИ разведывательного сообщества Джоном Бейлером и Ребеккой Ричардс, которая возглавляет подразделением по гражданским свободам, конфиденциальности и прозрачности Управления директора Национальной разведки, чтобы обсудить и обеспечить безопасность и соответствие усилий в области ИИ стандартам конфиденциальности и другим политикам.
«Мы также признаем, что существует огромный технический потенциал, который мы все еще должны использовать, чтобы убедиться, что мы не обращаем внимания на шумиху и понимаем, что происходит, и как мы можем привнести это в наши структуры», — сказала Мерритт.
Из-за того, что требования к безопасности в разведывательном сообществе очень строгие, гораздо меньше инструментов генеративного ИИ достаточно безопасны для использования в некоммерческом пространстве. Аналитики разведки не могут, например, получить доступ к коммерческому инструменту генеративного ИИ, такому как ChatGPT, в секретном информационном центре, где выполняются некоторые из их самых секретных работ.
Тем не менее, растущее число инструментов генеративного ИИ соответствует этим стандартам и уже влияет на миссии.
В марте 2024 года Гэри Новотны, начальник отдела управления программой ServiceNow в ЦРУ, объяснил, как по крайней мере один инструмент генеративного ИИ помогает сократить время, необходимое аналитикам для выполнения разведывательных запросов. Его замечания последовали за докладом 2023 года о том, что ЦРУ строит свою собственную большую языковую модель.
В мае 2024 года Microsoft объявила о доступности GPT-4 для пользователей своего облака Azure Government Top Secret, в число которых входят клиенты из сферы обороны и разведки. Представители Microsoft отметили, что аккредитация безопасности заняла 18 месяцев, что свидетельствует о том, насколько сложной может быть проверка защищенности программного обеспечения на самом высоком уровне даже для технологических гигантов.
Каждый из крупных поставщиков коммерческих облачных услуг берет на себя аналогичные обязательства. Google Cloud внедряет многие из своих коммерческих предложений ИИ в некоторые безопасные правительственные рабочие нагрузки, включая популярную платформу разработки Vertex AI. Аналогичным образом, облачная инфраструктура Oracle и связанные с ней инструменты ИИ теперь доступны в облаке для государственных учреждений США.
В то же время AWS, первый поставщик коммерческих облачных сервисов, обслуживающий разведывательное сообщество, стремится использовать свои лидирующие позиции на рынке облачных вычислений, чтобы лучше удовлетворять растущий спрос клиентов на генеративный ИИ.
«Реальность генеративного ИИ заключается в том, что у вас должна быть основа облачных вычислений», – сказал вице-президент AWS по глобальному государственному сектору Дэйв Леви в интервью Nextgov/FCW 26 июня 2024 года на саммите AWS. «Вы должны хранить свои данные в таком месте, где вы действительно можете что-то с ними сделать».
На саммите Леви объявил о реализации инициативы AWS Public Sector Generative AI Impact Initiative – двухлетних инвестиций в размере 50 млн долларов США, направленных на оказание помощи государственным и образовательным учреждениям в решении проблем, связанных с генеративным ИИ, включая обучение и техническую поддержку.
«Наша задача — помочь клиентам понять этот путь», — сказал Леви.
26 июня 2024 года главный исполнительный директор компании Anthropic, специализирующейся на искусственном интеллекте, Дарио Амодей и Леви совместно объявили о доступности моделей ИИ Claude 3 Sonnet и Claude 3 Haiku от Anthropic для спецслужб США. Коммерчески популярные инструменты генеративного ИИ теперь доступны через AWS Marketplace для разведывательного сообщества США, который, по сути, является засекреченной версией коммерческого облачного маркетплейса.
Хотя Anthropic отвечает за безопасность большой языковой модели, она сотрудничает с AWS из-за ее превосходных стандартов облачной безопасности и репутации лидера государственного сектора в области облачных вычислений. По словам Амодей, рынок частных объявлений, который позволяет государственным заказчикам запускать и тестировать программное обеспечение, прежде чем покупать его, также упрощает закупки для правительства. И это дает спецслужбам возможность использовать те же инструменты, что и противники.
«Intelligence Community Marketplace упрощает эту задачу, потому что AWS уже много раз работала с этой платформой, поэтому нам не нужно изобретать велосипед», – сказал Амодей.
Применение ИИ в ЦРУ требует нестандартного мышления
Технический директор ЦРУ Нанд Мулчандани занимается управлением технологическими инструментами.
Бывший генеральный директор Кремниевой долины, который руководил успешными стартапами, Мулчандани был назначен на эту должность в 2022 году после работы в Объединенном центре ИИ Пентагона.
Среди проектов, которые он курирует: Приложение генеративного ИИ, похожее на ChatGPT, которое использует данные с открытым исходным кодом (то есть несекретные, публичные или коммерчески доступные). Тысячи аналитиков из 18 разведывательных агентств США используют его.
Нанд Мулчалдани
Интервью с Мулчандани в Milwaukee Independent (06.07.2024):
Недавно Вы сказали, что к генеративному ИИ нужно относиться как к «сумасшедшему, пьяному другу». Не могли бы Вы рассказать об этом подробнее?
Нанд Мулчандани: Когда эти генеративные системы ИИ производят «галлюцинации», они иногда могут вести себя как ваш пьяный друг в баре, который может сказать что-то, что вытолкнет вас за пределы ваших обычных концептуальных границ и пробудит нестандартное мышление. Помните, что эти системы, основанные на ИИ, являются вероятностными по своей природе, поэтому они не являются точными (они склонны к фальсификации). Поэтому для творческих задач, таких как искусство, поэзия и живопись, эти системы отлично подходят. Но я бы пока не стал использовать эти системы для точных вычислений или проектирования самолета или небоскреба – в этих видах деятельности системы «достаточно точно» не работают. Они также могут быть предвзятыми и узконаправленными, что я называю проблемой «кроличьей норы».
Единственное известное мне в настоящее время использование большой языковой модели в масштабе ЦРУ — это ИИ с открытым исходным кодом под названием Osiris, который был создан для всего разведывательного сообщества. Это так?
Нанд Мулчандани: Это единственное, что мы раскрыли публично. Это был абсолютный хоум-ран для нас. Однако мы должны расширить дискуссию за пределы только LLM — например, мы обрабатываем огромные объемы контента на иностранных языках в различных типах медиа, включая видео, и используем другие алгоритмы и инструменты ИИ для его обработки.
Проект специальных конкурентных исследований, влиятельная консультативная группа, специализирующаяся на ИИ в национальной безопасности, опубликовала доклад, в котором говорится, что разведывательные службы США должны быстро интегрировать в свою работу генеративный ИИ, учитывая его подрывной потенциал. Проект устанавливает двухлетний график для выхода за рамки экспериментов и ограниченных пилотных проектов и «развертывания инструментов поколения ИИ в масштабе всего разведывательного сообщества». Так ли это?
Нанд Мулчандани: ЦРУ на 100% использует эти технологии и масштабирует их. Мы относимся к этому так же серьезно, как, вероятно, и к любой другой технологической проблеме. Мы считаем, что значительно опередили первоначальные сроки, так как уже используем инструменты Gen AI в рабочей среде. Более глубокий ответ заключается в том, что мы находимся на ранней стадии огромного количества дополнительных изменений, и большая часть работы заключается в более широкой интеграции технологии в наши приложения и системы. Это только начало.
Можете ли Вы назвать своих партнеров по большой языковой модели?
Нанд Мулчандани: Я не уверен, что сейчас интересно называть поставщиков. В настоящее время на рынке наблюдается взрывной рост количества LLM. Как умный клиент, мы не привязываем свою лодку к определенному набору LLM или определенному набору поставщиков. Мы оцениваем и используем практически все высокопроизводительные LLM, как коммерческие, так и с открытым исходным кодом. Мы не рассматриваем рынок LLM как единственный, где одна лаборатория лучше других.
Каковы наиболее важные сценарии использования больших языковых моделей в ЦРУ?
Нанд Мулчандани: Первичным является суммирование. Аналитик ЦРУ, работающий с открытыми источниками, не может переварить огромные массы информации, которую мы собираем каждый день. Таким образом, это изменило правила игры для понимания настроений и глобальных тенденций. Затем аналитики углубляются в конкретику. Они должны быть в состоянии — с полной уверенностью — аннотировать и объяснять данные, на которые они ссылаются, и то, как они приходят к соответствующим выводам. Наше ремесло не изменилось. Дополнительные материалы дают аналитикам гораздо более широкую перспективу — как секретные, так и открытые материалы, которые мы собираем.
Каковы самые большие проблемы адаптации генеративного ИИ в агентстве?
Нанд Мулчандани: Внутри страны нет большого культурного сопротивления. Наши сотрудники ежедневно сталкиваются с ИИ на конкурентной основе. Очевидно, что весь мир охвачен этими новыми технологиями и удивительным ростом их производительности и эффективности. Хитрость заключается в том, чтобы справиться с ограничениями, которые у нас есть на разделение информации и на то, как строятся системы. Во многих случаях разделение данных происходит не по соображениям безопасности, а по юридическим причинам. Как эффективно соединить системы, чтобы воспользоваться преимуществами ИИ, сохранив при этом все это? Появляются действительно интересные технологии, которые помогают нам продумать это и объединить данные таким образом, чтобы обеспечить шифрование и контроль конфиденциальности.
Генеративный ИИ в настоящее время так же сложен, как ученик начальной школы. Разведывательная работа, напротив, предназначена для взрослых. Все дело в том, чтобы попытаться обнаружить обман противника. Как поколение ИИ вписывается в эту работу?
Нанд Мулчандани: Во-первых, давайте подчеркнем, что человек-аналитик имеет первенство. У нас работают ведущие мировые эксперты в своих областях. И во многих случаях поступающей информации требуется огромное количество человеческих суждений, чтобы взвесить ее важность и значимость, в том числе и тех, кто может ее предоставлять. У нас нет машин, которые могли бы это воспроизвести. И мы не ищем компьютеры, чтобы выполнять работу экспертов в предметной области. То, на что мы смотрим, — это модель второго пилота. Мы считаем, что поколение ИИ может оказать огромное влияние на мозговой штурм, придумывая новые идеи. А также в повышении производительности и проницательности. Мы должны быть очень детерминированными в том, как мы это делаем, потому что при правильном использовании эти алгоритмы являются силой добра. Но при неправильном обращении они могут вам действительно навредить.
ИИ от Microsoft для ЦРУ
Microsoft развернула модель генеративного ИИ для ЦРУ и других разведывательных агентств США для анализа сверхсекретной информации, сообщает Bloomberg (12.05.2024). Microsoft объявила о предложении ИИ на выставке SCSP AI Expo 2024 для национальной конкурентоспособности в Вашингтоне 7 мая 2024 года. Модель, основанная на GPT-4, была создана таким образом, чтобы быть полностью отделенной от Интернета, что позволяет безопасно обрабатывать секретные данные.
«Это первый раз, когда у нас есть изолированная версия — когда изолированная означает, что она не подключена к Интернету — и она находится в специальной сети, доступ к которой имеет только правительство США», — сказал Уильям Чаппелл, главный технический директор Microsoft по стратегическим миссиям и технологиям. «Вы же не хотите, чтобы он учился на вопросах, которые вы задаете, а затем каким-то образом раскрывал эту информацию».
Уильям Чаппел
Разведывательные сообщества отчаянно нуждались в продукте, подобном ChatGPT, но риски безопасности с продуктами генеративного ИИ слишком высоки. Чаппелл сообщил Bloomberg, что новая модель безопасна благодаря облачной среде, которая изолирует ее от Интернета. В то время как большинство моделей ИИ обучаются на основе загруженных в них файлов, эта шпионская модель GPT-4 так не делает. Таким образом, правительство может сохранить эту модель «чистой» и предотвратить попадание секретной информации в платформу.
По-видимому, это первая в мире модель ИИ, созданная специально для классифицированных рабочих нагрузок, а также первая крупная языковая модель, работающая полностью независимо от Интернета.
В 2023 году ЦРУ развернуло свой собственный инструмент ИИ в стиле ChatGPT, чтобы просеивать горы публичной информации. Однако эта модель ИИ не использовалась ни в одной секретной документации.
Microsoft потратила 18 месяцев на работу над этой шпионской моделью GPT-4, которая включала в себя капитальный ремонт существующего суперкомпьютера с ИИ в Айове. Модель должна пройти тестирование и аккредитацию разведывательного сообщества, сообщает Bloomberg.
Развертывание модели ИИ для сверхсекретных рабочих нагрузок происходит в критический момент для репутации Microsoft в области кибербезопасности. Министерство внутренней безопасности США недавно опубликовало разгромный обзор методов обеспечения безопасности Microsoft, обвинив облачного провайдера в раскрытии электронных писем высокопоставленных правительственных чиновников. В отчете говорится, что культура безопасности Microsoft «требует пересмотра». Это побудило генерального директора Сатью Наделла сказать сотрудникам, что безопасность теперь является «главным приоритетом» Microsoft.
В то же время Microsoft не стесняется разрабатывать инструменты ИИ для государственных учреждений. Апрельский (2024 года) отчет The Intercept показал, что версия DALL-E от Microsoft Azure была представлена Министерством обороны США в качестве инструмента на поле боя. Microsoft уже давно сотрудничает с военными и правительственными учреждениями, хотя внедрение ИИ является относительно новым.
Обзор проекта Guardian
«Project Guardian» от Microsoft — это современная модель ИИ, разработанная специально для разведывательных служб США, включая ЦРУ. Эта модель, основанная на передовой архитектуре GPT-4, работает в полностью автономной среде с изоляцией от внешнего мира, что обеспечивает высочайший уровень безопасности. Разработкой Project Guardian руководил Уильям Чаппелл.
Модель размещена в статическом облаке, отключенном от Интернета, что не позволяет ей поглощать или обучаться на внешних данных, тем самым защищая конфиденциальную информацию от киберугроз и несанкционированного доступа.
Project Guardian предназначен для чтения и анализа файлов без обучения на основе обрабатываемых данных, что позволяет поддерживать целостность и безопасность информации. Он может отвечать на запросы и генерировать код, предоставляя мощные инструменты для анализа данных в разведывательном сообществе.
В настоящее время модель находится в рабочем состоянии и проходит тщательное тестирование и оценку различными разведывательными агентствами США. Процесс аккредитации, необходимый для ее официального развертывания, пока не завершен.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_v_tcru
05.07.2024 ИИ во главе армии Китая
Интеграция интеллектуальных технологий в НОАК
Китайские ученые достигли революционной вехи, разработав первого в мире военачальника с ИИ. Это инновационное творение демонстрирует возможности быстрого обучения виртуальных командиров, совершая революцию в традиционных военных стратегиях.
Военный командир с ИИ в настоящее время проходит испытания в лаборатории Национального университета обороны в Шицзячжуане, провинция Хэбэй. Этот виртуальный командир наделен широкими полномочиями для руководства силами в смоделированных сценариях боевых действий, отражающих сильные и слабые стороны, личности и образ мышления человеческих военачальников.
«Виртуальный командир» уже участвует в военных играх в Колледже совместных операций Национального университета обороны страны.
Командир ИИ учится и имитирует мыслительные модели настоящего военного командира. Ему были предоставлены «беспрецедентные верховные командные полномочия» в масштабных компьютерных военных играх.
Журнал на китайском языке Common Control & Simulation раскрыл Виртуального командира (Virtual Commander) в мае 2024 года. В опубликованной работе утверждается, что в Китае при отсутствии достаточного количества командиров для участия в симуляционных военных играх командир ИИ может заменять командиров-людей. В пределах лаборатории он может свободно осуществлять эту власть без какого-либо вмешательства со стороны людей.
Команда под руководством старшего инженера Цзя Чэньсина утверждает, что пока Китай готовится к конфликтам в таких регионах, как Тайвань и Южно-Китайское море, симуляции дадут хорошее представление о том, как это будет происходить в реальной жизни. Важной задачей для ученых является проверка этих планов в симуляциях, чтобы «взвесить хорошее с плохим и получить представление о хаосе битвы», — написали Цзя и его коллеги.
Во время симуляций от военного командира часто ожидается принятие решений на месте в условиях непредвиденных обстоятельств.
Виртуальный командир имеет различные аватары и имитирует боевые стили разных старших командиров НОАК.
Команда Цзя заявила, что первоначальная настройка ИИ-командира отражает облик опытного и блестящего стратега, «обладающего здоровыми умственными способностями, уравновешенным и стойким характером, способного анализировать и оценивать ситуации со спокойствием, лишенного эмоциональных или импульсивных решений и быстро разрабатывающего практические планы, вызывая в памяти похожие сценарии принятия решений». Схема виртуального командира может быть изменена в соответствии с требованиями.
Команда утверждает, что, хотя автономные боевые подразделения, такие как беспилотники и роботизированные собаки, размещенные на границе страны, в будущем получат большую свободу передвижения, командование останется в руках человека.
Чтобы смоделировать реальные ограничения, с которыми сталкиваются командиры-люди, исследователи ограничили базу знаний для принятия решений командира ИИ. Когда память достигает своего предела, часть знаний удаляется. Во время моделирования военных игр командир ИИ смог определить новые угрозы и разработать новые планы, чтобы помешать врагу.
ИИ будет играть большую роль в будущих войнах, поскольку военные системы ИИ бесконечно лучше справляются с обработкой больших наборов данных, чем люди. Ожидается, что интеграция человека и машины не только станет фактором умножения силы для существующего оружия, но и станет «фактически стратегическим субъектом» (планировщиком, бойцом, тактиком) в войне.
Китайский военный ИИ в центре внимания законодателей США
В видеоролике китайских государственных СМИ, скриншоты которого в мае 2024 года были опубликованы Military Times, показано, как военные страны демонстрируют похожих на собак роботов с винтовками во время совместных учений в Камбодже.
По данным издания, собаки с ИИ весят 110 фунтов и могут носить и стрелять из автоматических винтовок автономно.
Хотя война с использованием беспилотников не является новой концепцией, некоторые полагают, что появление этих новых вооруженных автоматов должно вызвать беспокойство в США.
Член палаты представителей Верн Бьюкенен, республиканец из Флориды, заявил в июне 2024 года Fox News Digital, что передовой ИИ станет следующим крупным экономическим и военным рубежом как для США, так и для их противников, таких как Китай.
Из 18 поправок, которые он разработал и успешно провел через проект Закона о национальной обороне (NDAA) Палаты представителей, одна привлекла внимание к потенциально кардинальной угрозе.
Законопроект Бьюкенена добавил положение, обязывающее министра обороны США сообщать об угрозе использования Китаем ИИ в военных целях, включая таких роботов-собак, и об угрозе их национальной безопасности США.
«Любой, кто говорит вам, что Китай будет использовать их только в исключительно мирных целях, прячет голову в песок», — сказал Бьюкенен.
Пентагон не сразу ответил на запрос о комментарии. Но, согласно майскому отчету The Warzone, у Командования операций специального назначения Корпуса морской пехоты (MARSOC) есть два похожих робота-четвероногих, которые в настоящее время используются для обеспечения безопасности периметра в неуказанных местах.
Бьюкенен заявил, что США уже экспериментировали с подобными роботизированными собаками в прошлом, однако Китай оснащает их оружием и демонстрирует их во время военных учений, что вызывает беспокойство.
Отвечая на вопрос о собаках-роботах и поправке к отчетности, республиканец от Алабамы Майк Роджерс, председатель Комитета по вооруженным силам Палаты представителей, который был главным спонсором NDAA, заявил, что такие опасения обоснованы.
«Если мы хотим опережать Китай, крайне важно уделять первостепенное внимание инновациям», — сказал Роджерс.
«Военный ИИ Китая. Взгляды КНР на технологические вызовы интеллектуальной войн»
Доклад с таким названием подготовил Сэм Бресник в Центре безопасности и новых технологий (CSET) Джорджтаунского университета (июнь 2024 года).
Автор пишет:
«За последние несколько лет Китай сделал значительные инвестиции и добился очевидного прогресса в сфере военного ИИ. Учитывая, что ИИ и связанные с ним новые технологии могут сыграть решающую роль в будущих войнах, истеблишмент национальной безопасности США обеспокоен тем, что он отстанет от Китая в разработке и внедрении этих технологий. Подобные опасения вызвали большое внимание и тревогу в Соединенных Штатах».
В докладе излагаются некоторые ключевые проблемы, с которыми, по мнению китайских оборонных экспертов, сталкивается Китай в области разработки и внедрения ИИ и связанных с ним новых технологий. Он основан на журнальных статьях на китайском языке, опубликованных в период с 2020 по 2022 год офицерами и исследователями Народно-освободительной армии Китая (НОАК), инженерами китайской оборонной промышленности и учеными, работающими над ИИ и другими новыми технологиями.
Введение
Китайская оборонная доктрина и документы предполагают, что военная модернизация Китая будет разворачиваться в три последовательных, но часто пересекающихся этапа: механизация, информатизация и интеллектуализация.
Когда Си Цзиньпин пришел к власти в 2013 году, Китай начал концентрироваться на подготовке к информатизированной войне или использовании информационных технологий для улучшения командования и контроля, оказания помощи в нанесении точных ударов и использования космических, кибер- и электромагнитных возможностей. В своей речи на 19-м съезде партии в 2017 году Си Цзиньпин призвал НОАК осуществить базовую механизацию и добиться прогресса в направлении информатизации к 2020 году.
В той же речи Си Цзиньпин призвал НОАК ускорить процесс военной разведки, который в широком смысле определяется как использование ИИ и других передовых технологий для оборонных целей. Китайское правительство и стратегическое сообщество уверены, что ИИ и другие новые технологии могут дать НОАК возможность догнать или даже превзойти военную мощь Соединенных Штатов. Например, видные представители НОАК, такие как генерал-лейтенант Лю Гожи , бывший сотрудник Центральной военной комиссии, утверждают, что, когда дело доходит до военного потенциала, интеллектуализация — это «редкая возможность» «обогнать конкурентов на кривой». Официальные указания правительства отражают растущее внимание руководства к интеллектуальной войне. В Белой книге обороны Китая за 2019 год отмечалось растущее внимание НОАК к укреплению своей «разведки» в войне, а 14-й пятилетний план предписывал военным «ускорить комплексное развитие механизации, информатизации и интеллектуализации».
Действительно, интеллектуализация стала путеводной звездой для развития и модернизации НОАК. Однако НОАК не опубликовала официального руководства ни по своей концепции интеллектуальной войны, ни по тому, как ИИ и связанные с ней технологии влияют на эту концепцию. Более того, определения этого термина, как и определения информатизации, остаются намеренно расплывчатыми.
В то же время китайские военные стратеги и ученые в области обороны опубликовали тысячи комментариев в СМИ, отчетов аналитических центров и журнальных статей, которые могут помочь аналитикам получить представление о том, как Китай думает об использовании ИИ и связанных с ним новых технологий в войне.
Некоторые отчеты посвящены тому, как китайские эксперты по обороне представляют себе, как ИИ и другие новые технологии произведут революцию в военном потенциале, в то время как другие сосредоточены на влиянии этих технологий на сдерживание и стратегическую стабильность. Другие исследования анализируют программы военно-гражданского слияния, корпоративные и академические инициативы, направленные на повышение военной интеллигенции, а также доктринальные дебаты.
ИИ и другие новые технологии, такие как беспилотные системы, автономность и анализ данных, занимают центральное место в китайских военных концепциях ведения будущих войн. Однако существует относительно ограниченное количество исследований, направленных на понимание того, как китайские стратеги и эксперты по обороне рассматривают прогресс своей страны в разработке и развертывании этих технологий и возможностей, которые в конечном итоге призваны положить начало заключительным этапам военной модернизации Китая. Именно этот аналитический пробел и пытается восполнить доклад Брезника.
Проанализировав 130 статей в журналах на китайском языке об искусственном интеллекте и будущем войны, автор выделил несколько областей, в которых, по мнению китайских экспертов по обороне, НОАК сталкивается с трудностями в разработке военного ИИ и связанных с ним новых технологий. В докладе также представлена информация о технологиях, которые, по мнению китайских авторов, Пекину следует разработать, чтобы исправить свои текущие недостатки.
Китайские эксперты по обороне обеспокоены надежностью систем ИИ и тем, что Пекин может отставать от США в разработке и внедрении ИИ и связанных с ним новых технологий в нескольких ключевых областях.
Объём и методология
Доклад основан на анализе размышлений, гипотез и аргументов о военном искусственном интеллекте и связанных с ним новых технологиях, содержащихся в корпусе из 130 китайских журнальных статей, написанных китайскими экспертами по обороне, связанными и не связанными с НОАК. Эти документы были опубликованы в период с 1 января 2020 года по 31 декабря 2022 года и включены в снимок Национальной инфраструктуры знаний Китая (CNKI) 30 марта 2023 года.
Из этих 130 статей автор больше всего концентрируюсь на 59 статьях, в которых обсуждаются предполагаемые препятствия на пути разработки и внедрения военного ИИ и связанных с ним новых технологий.
59 статей в наборе данных в целом можно разделить на семь категорий:
1) Обсуждения текущего состояния военного потенциала с использованием ИИ, многие из которых включают анализ ограничений и рекомендации по разработке конкретных технологий;
2) Общие обзоры ожидаемых будущих возможностей военных систем с поддержкой ИИ;
3) Исследования влияния ИИ и других новых технологий на стратегическую стабильность;
4) Обзоры событий в конкретных областях военной деятельности за определенный год;
5) Освещение того, как различные вооруженные силы (в основном США) подходят к разработке конкретных систем с поддержкой ИИ;
6) Обсуждение моральных, этических и правовых аспектов использования военных систем с поддержкой ИИ;
7) Технические документы по конкретным технологиям или возможностям.
Большинство статей, которые автор анализирует, относятся к первой категории.
Обзор прогресса Китая в войне с использованием ИИ
Китайские официальные лица полагают, что ИИ может положить начало новой революции в военном деле (RMA), которая может фундаментально изменить способы ведения будущих войн. Высокопоставленные китайские чиновники утверждают, что у НОАК есть возможность — учитывая сильную научно-техническую базу Китая — развивать передовые, разрушительные военные возможности с использованием ИИ.
Внимание Си Цзиньпина к военной модернизации привело к тому, что НОАК усилила свое стремление к реализации научных и технологических достижений, или «инновационному развитию». Помимо возобновления внимания к научно-техническим разработкам, в 2015 году НОАК приступила к значительным реформам, направленным на стимулирование военной модернизации и улучшение способности НОАК проводить совместные, многоплановые операции. В рамках этих реформ НОАК создала Силы стратегической поддержки (SSF) для наблюдения за развитием электронного, психологического, кибер- и космического военного потенциала. Недавно SSF были реорганизованы в Силы информационной поддержки, Силы киберпространства и Аэрокосмические силы. Комиссия по науке и технологиям, которой поручено стимулировать научно-технические инновации, раньше находилась в ведении Главного управления вооружений, но теперь является самостоятельным подразделением Центральной военной комиссии.
НОАК реформировала Академию военных наук и поручила ей объединить новые технологии с новыми оперативными концепциями. Кроме того, китайские военные опираются на ряд научно-исследовательских институтов, связанных с обороной, а также на игроков оборонной промышленности в создании инновационных технологий и концепций для будущих войн. Короче говоря, военные реформы и модернизация Китая направлены на то, чтобы помочь НОАК разработать и внедрить новые технологии, а также создать новые оперативные концепции, чтобы к середине этого столетия стать боевой силой мирового класса.
Предыдущие исследования показали, как НОАК разрабатывает и закупает широкий спектр военных систем с поддержкой ИИ.
Например, исследование CSET показало, что китайские военные приобретают технологии с поддержкой ИИ для анализа разведывательных данных, информационной войны, логистики и профилактического обслуживания, а также навигации и распознавания целей.
Сообщается, что НОАК также разрабатывает машинное обучение для дистанционного зондирования и ситуационной осведомленности; коммуникационные технологии с поддержкой ИИ, которые лучше защищены от помех; нейронные сети, способные управлять ракетами и гиперзвуковыми планирующими аппаратами; беспилотные, автономные воздушные, наземные, надводные и подводные аппараты; а также возможности управления данными и объединения с помощью ИИ, среди других приложений.
Китайские стратегические мыслители полагают, что ИИ и автономия увеличат скорость и эффективность военных операций, а также помогут в обнаружении, нацеливании и нанесении ударов. Они считают усовершенствование интеллектуальных боеприпасов, воздушных дронов и использование данных разведки, наблюдения и рекогносцировки (ISR) одними из наиболее важных событий, способствующих прогрессу в войне.
Они утверждают, что ИИ улучшит восприятие поля боя, улучшит командование и контроль (C2), поможет в принятии решений и сократит цикл OODA (наблюдение-ориентация-решение-действие).
Взгляды китайских экспертов на войну с использованием ИИ
Китайские учёные полагают, что развитие алгоритмов, коммуникационных технологий, датчиков и обработки данных приведёт к улучшению взаимосвязей между оружием, оборудованием и солдатами. Они утверждают, что достижения в области ИИ также улучшат целенаправленность и ускорят развитие Китаем совместных многопрофильных боевых возможностей.
Они отмечают, что развертывание систем командования, контроля, связи, компьютеров, разведки, наблюдения и рекогносцировки (C4ISR) нового поколения обеспечит вооруженным силам лучшую ситуационную осведомленность, разведку поля боя, высокоточные удары на большие расстояния и более эффективную оценку ущерба.
Другие утверждают, что технологии следующего поколения, такие как 5G, обеспечат «бесшовное взаимодействие беспилотных систем». Некоторые китайские комментаторы утверждают, что рои беспилотных летательных аппаратов (БПЛА) улучшат способность передовых вооруженных сил наносить удары по противнику. Третьи утверждают, что солдаты и интеллектуальные системы будут «беспрепятственно сотрудничать», что позволит проводить совместные многодоменные операции. По мнению некоторых ученых, автономные машины значительно сократят количество людей на полях сражений будущего и расширят глубину боевого пространства. Наконец, китайские эксперты предполагают, что технологический прогресс позволит достичь успехов в кибер-, психологической и когнитивной войне.
Китайские учёные отражают общее мнение о том, что прогресс в области ИИ позволит передовым вооруженным силам улучшить свои C4ISR, анализ данных и ударные возможности, постепенно удалять людей с полей сражений в будущем и использовать все более автономные системы.
Они утверждают, что сбор и обработка информации с помощью ИИ приведет к более быстрому и лучшему принятию решений и более точному нацеливанию, что позволит НОАК стать ведущей боевой силой. Интеграция новых технологий с передовыми военными системами, по словам одного ученого, приведет к эффекту «1+1>2», то есть цепочка убийств следующего поколения будет больше, чем сумма ее частей.
Многие ученые также выражают обеспокоенность по поводу потенциально дестабилизирующих эффектов военных систем с поддержкой ИИ. Большинство ученых, чьи работы упоминаются в докладе, считают, что новые технологии могут негативно повлиять на стратегическую стабильность, что приведет к увеличению количества превентивных ударов и динамике гонки вооружений, а также усложнит контроль над эскалацией. Кроме того, они обеспокоены распространением оборудования с поддержкой ИИ среди террористов и других негосударственных субъектов.
Как следствие, опрошенные ученые неоднократно отмечают, что ИИ — это «палка о двух концах», поскольку он предоставляет возможности для военного прогресса, одновременно увеличивая риски. Несмотря на эти опасения, они, похоже, выступают за развитие военного потенциала следующего поколения, поскольку их успешная реализация предоставит НОАК наилучшие шансы на победу над противниками в будущих боях.
Однако существует значительный разрыв между прогнозируемыми будущими возможностями и существующими технологическими реалиями.
Системы ИИ: возможности, характеристики и проблемы
Китайские эксперты по обороне полагают, что новые технологии повысят скорость боя, непредсказуемость поля боя и туман войны. Хотя они утверждают, что военные системы с поддержкой ИИ будут играть роль в создании этих условий, они также отмечают необходимость использования ИИ для эти потенциальные события на поле боя.
Однако авторы высказывают сомнения по поводу текущих возможностей технологий ИИ, отмечая, что ИИ в настоящее время «слаб» или лучше всего подходит для решения конкретных задач с четкими требованиями и границами. ИИ все еще пытается понять абстрактные концепции, самостоятельно рассуждать и принимать решения.
Более того, ИИ пока не способен рассуждать дальше математических вычислений, в результате чего системы, использующие ИИ, не могут выносить оценочные суждения или различать комбатантов и некомбатантов на поле боя. Узкая применимость систем с поддержкой ИИ ограничивает их полезность, а также более широкое развитие «разумной войны», по крайней мере, в краткосрочной перспективе.
Китайские наблюдатели, похоже, также питают глубокую обеспокоенность тем, что пробелы в объяснении могут привести к тому, что люди не будут доверять рекомендациям по принятию решений, генерируемым ИИ. Некоторые авторы отмечают, что отсутствие объяснимости создает скрытую опасность для применения ИИ. Другие эксперты выражают обеспокоенность по поводу обеспечения предсказуемости систем и, что, возможно, самое главное, управляемости, поскольку потеря контроля над системами ИИ может увеличить риск эскалации и более широкой нестабильности.
Авторы также выражают обеспокоенность по поводу доверия к ИИ. Существует обеспокоенность по поводу того, что эти системы недостаточно надежны и безопасны для эффективной работы, учитывая неопределенность современных или будущих полей сражений, или для того, чтобы быть устойчивыми к изменениям в оперативной среде. Более того, чрезмерная зависимость от таких систем ИИ может привести к непреднамеренной эскалации или предвзятости автоматизации.
Учитывая «медленное и незрелое развитие» технологии ИИ, эксперты утверждают, что, поскольку автономные военные системы с поддержкой ИИ становятся все более сложными, они по-прежнему будут ненадежными, хрупкими и нестабильными, что приведет к серьезным рискам для безопасности, увеличению шансов на просчеты и неопределенная эффективность. Из-за растущей сложности систем ИИ некоторые авторы опасаются, что ошибки конфигурации приведут к угрозам безопасности. Другие авторы сетуют, что ахиллесовой пятой систем ИИ является их уязвимость к специализированным атакам на их программное или аппаратное обеспечение. Учитывая зависимость ИИ от высококачественных обучающих данных, эксперты отмечают, что нейронные сети, обученные на недостаточном количестве данных, с трудом обобщают свои приложения и по-прежнему уязвимы к сбоям, таким как состязательные выборки или входные данные, предназначенные для того, чтобы заставить модели машинного обучения совершать ошибки.
Ученые также утверждают, что нынешние военные системы с поддержкой ИИ склонны к алгоритмической предвзятости, которая может привести к неверным суждениям, ложным тревогам и другим ошибочным выводам, которые могут поставить под угрозу стратегическую стабильность. Учитывая эти проблемы, а также проблемы, связанные с обеспечением безопасности, по крайней мере один эксперт прямо отмечает важность проявления осторожности при применении военного ИИ.
Данные обучения
Военные, которые лучше всего используют данные, будут иметь явные преимущества в завтрашних войнах. В своей стратегии в области ИИ Министерство обороны США признает как важность данных, так и существующие проблемы с использованием данных для боевых действий. Китайские ученые ставят под сомнение способность НОАК генерировать, собирать и управлять данными, необходимыми для разработки и внедрения изысканных военных систем с поддержкой ИИ. Эти опасения связаны с состоянием ресурсов данных военных, общим отсутствием данных, имеющих отношение к военным вопросам, а также трудностями обмена данными между различными службами, вооружениями, системами и платформами НОАК.
Во-первых, несколько ученых обсуждают вопросы, связанные с управлением китайской армией и организацией информационных ресурсов. Например, в одной статье экспертов Даляньской военно-морской академии объясняется, что некоторые военные данные записываются на бумаге и редко оцифровываются. Такая практика создает неточности и усложняет распространение данных, делая их менее полезными, поскольку другие части вооруженных сил не могут использовать их для обучения своих собственных систем. Более того, некоторые эксперты утверждают, что НОАК плохо справляется с отслеживанием информационных ресурсов и обеспечением их видимости как военным организациям, так и поставщикам оборонной продукции. Такие недостатки могут помешать НОАК в полной мере использовать свои ресурсы данных.
Ученые также обеспокоены доступом Пекина к данным для обучения систем ИИ. Учитывая, что Китай не вел войны более четырех десятилетий, они обеспокоены тем, что Пекин не обладает необходимыми боевыми данными для обучения интеллектуальному оружию. Ученые отмечают, что некоторые военные данные Китая получены в результате учений, которым не хватает масштаба и интенсивности реальных боевых действий, что может привести к тому, что система будет работать иначе в бою, чем в учебной среде. Кроме того, моделирование требует много времени и денег. В связи с этим некоторые ученые обеспокоены тем, что данные, полученные в таких условиях обучения, будет сложно использовать при подготовке к реальной войне, поскольку условия будущих сражений, вероятно, будут значительно отличаться. Ограниченность обучающих данных увеличивает вероятность того, что модели ИИ будут плохо обобщаемы, что ограничивает их эффективность в различных ситуациях.
Другие утверждают, что, поскольку военные системы с поддержкой ИИ генерируют значительно меньше данных, чем гражданские технологии, их труднее обучать. Интересно, что некоторые утверждают, что из-за сложности современного боя, тумана войны и обмана потенциального противника трудно достоверно маркировать данные, полученные в бою, что еще больше усложняет обучение систем с поддержкой ИИ. Более того, некоторые китайские эксперты предупреждают о сложности, если не невозможности, использования данных для получения боевого опыта ИИ-оружия или способности полностью понять сложности будущих сражений, ставя под сомнение их достоверность и, возможно, даже их полезность. Подобные опасения иллюстрируют трудности внедрения систем ИИ, эффективных в ряде сложных сценариев.
Для решения этих проблем, связанных с данными, китайские авторы выступают за использование четырёх основных стратегий:
более целенаправленный сбор и обработка данных;
использование методов науки о данных для улучшения или расширения небольших наборов данных;
использование взаимодействия человека и машины;
партнерство с коммерческими фирмами, которые могут располагать или создавать полезные данные.
Китайские ученые рекомендуют ускорить исследования и разработку инновационных технологий и методов, которые не полагаются на большие объемы размеченных данных, например, за счет использования параллельных систем для оптимизации алгоритмов ИИ для использования в ранее неизвестных средах - метода, используемого для обхода ограниченных возможностей. образцы данных. Они утверждают, что благодаря таким инновациям китайские военные смогут преодолеть существующие ограничения в области данных. Другие призывают к проведению исследований по моделированию генерации данных из нескольких источников и использованию технологий улучшения данных для расширения ограниченных источников данных.
В то время как некоторые китайские эксперты по обороне считают, что Пекину следует инвестировать в расширение своих ресурсов данных, другие подчеркивают необходимость разработки алгоритмов обучения для небольших выборок, в том числе с помощью метода обучения байесовских программ и трансферного обучения или использования существующих выборок для решения проблем в аналогичных областях. Интересно, что они указывают на возможность преодоления ограниченных выборок военных данных за счет использования человеческих знаний или объединения данных с графами знаний, которые могут понять машины. Помимо простого создания большего количества данных или внедрения специальных инструментов для обучения на ограниченных выборках, некоторые авторы призывают к партнерству с коммерческими фирмами, специализирующимися на обработке данных. Они утверждают, что такие механизмы военно-гражданского слияния могут снизить затраты военных на обработку данных и улучшить качество обучающих данных.
Обработка/анализ данных
Китайские ученые хорошо осведомлены о потенциале передовых технологий объединения данных, которые обещают повышение ситуационной осведомленности, более быстрое принятие решений и более точные удары. Китайские комментаторы отмечают необходимость разработки «всепогодной многомерной сети ситуационной осведомленности для обеспечения точного и всестороннего понимания и контроля ситуации на поле боя в реальном времени», которую они надеются частично создать за счет улучшения возможностей обработки данных.
Однако, как и в случае с вышеупомянутыми технологиями, китайские наблюдатели описывают несколько технических проблем, с которыми сталкиваются существующие возможности Китая по обработке или анализу данных. Некоторые утверждают, что нынешние системы разведки и вооружения генерируют огромное количество разнородных данных, которые сложно обрабатывать в режиме реального времени. Однако, как отмечалось выше, вопросы, связанные с объяснимостью и надежностью таких систем, привели к обеспокоенности по поводу текущих ограничений технологии. Другие эксперты указывают на недостатки современных китайских технологий объединения данных, связанные с вычислениями. Наконец, некоторые аналитики отмечают, что китайским военным по-прежнему сложно интегрировать информацию от радаров, электрооптических, гидролокаторов и других датчиков с возможностями объединения данных.
Учитывая важность точной и надежной обработки и анализа данных, китайские эксперты предлагают несколько рекомендаций, направленных на улучшение возможностей Китая.
Некоторые утверждают, что Китаю крайне важно добиться успехов в облачных вычислениях, анализе больших данных и интеллектуальном анализе данных, чтобы найти корреляции между большим объемом данных, генерируемых до и во время боя.
Ряд китайских авторов выступают за разработку технологий анализа данных, производимых военным оборудованием, с целью диагностики неисправностей и улучшения профилактического обслуживания, в то время как другие утверждают, что прорывы в квантовых вычислениях откроют возможности создания изысканных возможностей объединения данных.
Хотя подавляющее большинство статей, рассмотренных в этом исследовании, были опубликованы до 7 октября 2022 года, закона США о контроле над экспортом полупроводников, в нескольких статьях отмечается важность внутренней разработки полупроводникового оборудования, которое будет способствовать созданию все более мощных компьютеров, способных анализировать данные. через огромное количество данных.
Сетевая и кибербезопасность
В связи с обеспокоенностью по поводу безопасности и надежности многие китайские учёные считают существующие системы ИИ весьма уязвимыми для кибератак и других сбоев.
Они описывают трудности защиты от сетевого паралича, когда компьютерные сети, системы или инфраструктура серьезно повреждены или становятся неработоспособными. Ставятся задачи предотвращения взлома алгоритма и избежания уничтожения данных. Другие ученые также предупредили, что злоумышленники могут испортить данные обучения систем ИИ, что приведет к тому, что эти системы будут совершать ошибки и потенциально станут непригодными для использования. Чем больше у человека данных, тем сложнее их защитить и тем выше вероятность того, что злоумышленники смогут изменить данные и подделать алгоритмы. Наконец, некоторые эксперты обеспокоены тем, что атаки на компьютерные системы могут повредить возможности обработки информации и контроля и даже позволить злоумышленнику получить контроль над этими системами.
Китайские эксперты по обороне утверждают, что невозможность узнать, проник ли противник в дружественные сети, увеличивает риски, связанные с надежностью ИИ.
Некоторые авторы утверждают, что неспособность стран полностью защитить себя от кибератак в сочетании со скоростью, с которой такие вторжения происходят, может привести к началу и эскалации войн.
Некоторые ученые даже обеспокоены тем, что кибер- и автономное оружие может быть использовано для нападения на ядерное оружие, средства его доставки, системы командования и контроля или другую инфраструктуру, и все это может угрожать стратегической стабильности и вызывать кризисы.
Учитывая сомнения в кибербезопасности сетей, использующих технологии ИИ, многие китайские ученые рекомендуют разрабатывать кибертехнологии и методы для защиты от будущих вторжений. В то время как некоторые эксперты отмечают потенциальную важность когнитивных вычислений и интеллектуальных технологий обнаружения уязвимостей для лучшей защиты систем ИИ, другие утверждают, что принятие эластичных или отказоустойчивых сетевых конструкций и следование модели кибербезопасности «нулевого доверия» может улучшить киберзащиту.
Другие утверждают, что блокчейн может предотвратить подделку данных и способствовать децентрализации и, таким образом, защитить систему от проникновения, даже если один сетевой узел будет скомпрометирован.
Датчики
Китайские ученые отмечают важность высокопроизводительных датчиков для разведки и разведки, особенно для подводного обнаружения и слежения за подводными лодками, а также для спутникового обнаружения обычного и ядерного оружия. Однако, как и в случае с некоторыми из ранее упомянутых технологий, китайские ученые обрисовывают ряд проблем, связанных с существующими в Китае датчиками, а также проблемы с объединением данных от разрозненных датчиков.
Например, в статье вице-председателя Китайского альянса производителей датчиков и Интернета вещей излагаются некоторые проблемы не только с отечественной сенсорной технологией Китая, но и с более широкой сенсорной индустрией страны. По мнению автора, Китай производит большое разнообразие датчиков, но их качество и технический уровень остаются значительно ниже, чем у наиболее передовых мировых производителей датчиков, что затрудняет конкурентоспособность Китая во многих высокотехнологичных областях. Поскольку конкуренты уже давно производят датчики высокого уровня, китайским фирмам сложно проникнуть на рынок и получить доступ к нему.
Другие комментаторы отмечают недостатки датчиков, связанных с эксплуатацией домена. Например, некоторые авторы утверждают, что сложные, изменчивые наземные условия представляют собой значительные препятствия для датчиков. Некоторые эксперты отмечают проблемы с обнаружением кораблей в море из-за факторов окружающей среды, уникальных для морских операций, а также сложности различения военных и гражданских судов в многолюдных районах. Третьи отмечают недостатки подводных датчиков, которые они считают недостаточно эффективными. Наконец, некоторые утверждают, что военной технике все еще не хватает удовлетворительных возможностей восприятия поля боя.
Китайские авторы связывают эти опасения с четким пониманием того, как новые технологии могут быть разработаны для обмана или обхода датчиков. Они отмечают, что китайские гиперзвуковые ракеты эффективны отчасти потому, что у них уменьшены площади отражения радаров, относительно плоские траектории и минимизированы инфракрасные сигнатуры, которые могут сбить с толку американские радары и инфракрасные датчики космического базирования. Однако они обеспокоены тем, что их собственные датчики уязвимы для подобных обманов, в том числе за счет использования электрооптических ложных целей и камуфляжа.
Вышеупомянутый вице-председатель альянса производителей датчиков отмечает, что промышленность обеспокоена тем, что для китайских компаний, занимающихся производством датчиков, будет «невозможно» получать передовые технологии и процессы из развитых стран из-за торговой и технологической конкуренции между США и Китаем. Поэтому, утверждает он, Китай должен разработать надежную промышленную политику, направленную на финансирование компаний, занимающихся разработкой полупроводников, керамики, органических полимерных материалов и оптических волокон для использования в новейших датчиках. Возможно, самое главное, он отмечает необходимость улучшить качество датчиков, сделав их меньше, надежнее и энергоэффективнее. Вместо того, чтобы сосредоточиться только на передовых датчиках, некоторые ученые утверждают, что распространение датчиков в различных областях — например, в системах подводного наблюдения и спутниковом дистанционном зондировании для обнаружения подводных лодок — может улучшить ситуационную осведомленность. Поэтому они выступают за использование огромного количества датчиков для преодоления ограничений качества.
Коммуникационные технологии
Китайские стратегические аналитики полагают, что сети связи будут играть решающую роль в будущих сражениях, но они, похоже, обеспокоены их нынешним состоянием развития.
Центральное место в беспокойстве, связанном с существующими военными коммуникационными технологиями, заключается в том, что сложно устанавливать и поддерживать соединения с высокой пропускной способностью, низкой задержкой и достаточной пропускной способностью для удовлетворения постоянно растущих требований к передаче информации. Это особенно тревожно в отношении видеоданных, которые дроны и другие датчики генерируют в больших количествах. Ученые обеспокоены тем, что проблемы с пропускной способностью будут препятствовать передаче больших объемов данных для анализа и обработки в реальном времени. Учитывая зависимость от устаревших технологий, части вооруженных сил Китая в течение некоторого времени будут продолжать полагаться на дорогие и хрупкие каналы передачи данных. Другие китайские эксперты отмечают, что сбор и обработка информации во многом ограничиваются отдельными платформами и что зачастую «невозможно» передать информацию с этой машины в центры обработки данных в режиме реального времени. Ограничения объема передачи данных и задержки снижают военную эффективность, поскольку они ставят под угрозу командование и управление, а также обработку данных.
Китайские учёные, занимавшиеся этим вопросом, похоже, особенно обеспокоены каналами передачи данных как для БПЛА, так и для НПА (беспилотных подводных аппаратов). Что касается первого, некоторые авторы отмечают, как помехи и другие методы радиоэлектронной борьбы нарушают связь с наземными станциями и ставят под угрозу полезность этих систем. Зависимость БПЛА от наземных или воздушных ретрансляторов также создает проблемы с надежностью, в то время как спутниковая связь может страдать от низкой скорости и длительных задержек. Другие эксперты отмечают, что нынешним коммуникационным технологиям не хватает задержки, пропускной способности, надежности и качества обслуживания (QoS ), которые потребуются будущим полуавтономным БПЛА для полной эффективности. Кроме того, сетевые требования для воздушных роев, которые должны постоянно обмениваться данными с другими узлами роя, более сложны, чем сравнительно простые каналы дистанционного управления, которые просто передают данные от дрона к оператору и обратно.
Подводная среда создает значительные трудности при эксплуатации НПА. Под водой связь очень ограничена, что затрудняет, а то и делает невозможным установление каналов передачи данных на большие расстояния. Подобные проблемы усложняют оперативное и тактическое взаимодействие подводных аппаратов и других сил.
В то время как некоторые ученые утверждают, что необходимо повысить автономность, чтобы избежать многих ловушек, связанных с некачественной или нарушенной связью, другие отмечают, что Китаю следует провести дальнейшие исследования сетей связи, чтобы повысить их стабильность, уменьшить задержки и улучшить пропускную способность. Китайские эксперты предлагают ряд предложений по будущим приоритетам исследований и разработок, связанных с коммуникациями, от многоскачковой передачи для подводных сетей до технологии когнитивного радио для уменьшения сбоев, вызванных электромагнитными помехами, а также использования технологии блокчейн для гарантии передачи данных в спорных зонах.
Однако среди наиболее популярных рекомендаций — использование технологий Интернета вещей ( IoT ) и сетей связи с поддержкой 5G. Первые могут быть использованы для создания более надежных боевых сетевых систем, а вторые обладают более высокой пропускной способностью и скоростью передачи, чем традиционные сети связи. Такие технологии, как утверждают некоторые китайские обозреватели, могут обеспечить работу роя дронов, обеспечить эффективность связи и снизить затраты.
Помимо Интернета вещей и 5G, некоторые ученые полагают, что децентрализованные, динамичные, самоорганизующиеся сети будут определять будущие коммуникационные инфраструктуры. Обычные каналы передачи данных имеют статические сети, которые не могут реорганизоваться в режиме реального времени, но эти сети следующего поколения лучше приспособлены для поддержки скоординированных операций.
Динамические сети, как утверждают некоторые китайские обозреватели, могут по запросу формировать временные связи для конкретных миссий. С другой стороны, децентрализованные сети могут быть менее уязвимы к сбоям и достигать большей гибкости. Способность быстро адаптироваться к истощению дронов или электромагнитным помехам, особенно для автономных группировок и скоординированных ракетных формирований, вероятно, окажется решающей для поддержания эффективности в высококонкурентных боевых условиях будущего.
Стандарты
Несмотря на быструю военную модернизацию Китая, некоторые ученые отмечают, что НОАК не имеет достаточных стандартов для разработки и внедрения ключевых технологий, таких как глубокое обучение и использование, сбор и управление данными, а также для создания и управления более широкими боевыми системами, которые полагаются на эти технологии. Как и предыдущий раздел, следующий также охватывает коммуникационные технологии, лишь некоторые из которых связаны с ИИ.
Согласно исследованиям RAND Corporation, китайские эксперты, судя по всему, верят, что в будущих войнах выиграют силы, обладающие более совершенными системами военных систем, а НОАК сейчас сосредоточена на разработке синергетических военных оперативных систем, которые, по мнению экспертов, позволят ей одержать победу над враждебными системами. Авторы статей, рассмотренных для данного отчета, согласны с тем, что разработка таких систем имеет решающее значение, но они, похоже, обеспокоены тем, что недостаточно надежные военные стандарты НОАК могут помешать ее усилиям по их созданию.
Например, многие китайские эксперты по обороне отмечают важность различных аспектов построения боевой «системы». Такие системы должны быть совместимыми и иметь общие основные элементы конструкции, что позволит избежать нынешней тенденции к развитию в «разрозненных и хаотичных условиях».
Китайские эксперты отмечают важность стандартизации, модульности и сериализации аппаратного и программного обеспечения для быстрой интеграции и модернизации систем вооружения, а также построения гибкой и устойчивой боевой системы. Те, кто полагается на программное обеспечение, скорее всего, будут жесткими и хрупкими, что сделает их уязвимыми в будущих войнах. Другие отмечают, что систематизация, обобщение и модульность также будут иметь решающее значение для оборудования с поддержкой ИИ, такого как ракеты и системы беспилотного оборудования.
Однако они отмечают, что военная стандартизация остается недостаточной. В частности, они утверждают, что интеллектуальное оружие и оборудование все еще находятся на ранних стадиях стандартизации. Как отмечалось выше, некоторые комментаторы отмечают, что в китайской практике сбора, использования и управления данными отсутствуют стандарты, в то время как другие утверждают, что UUV и USV (беспилотные надводные транспортные средства), а также интеллектуальное вспомогательное оборудование разрабатываются в отсутствие надежных стандартов. Учитывая эти недостатки, эксперты выступают за различные меры по созданию стандартов.
Некоторые эксперты призывают к созданию стандартов для алгоритмов, данных, сетей связи, а также тестирования и оценки интеллектуального оружия, чтобы обеспечить совместное планирование, проектирование, строительство и тестирование боевых систем. Некоторые ученые отмечают потенциальную полезность создания организаций для разработки отраслевых стандартов. Другие аналитики утверждают, что исследования, направленные на создание общих технических стандартов для разработки глубокого обучения и нейронных сетей, а также для больших данных, облачных вычислений и Интернета вещей, будут способствовать созданию и поддержанию передовых систем защиты, которые зависят от этих технологий. Другие выступают за разработку стандартов, включая проектные спецификации и стандарты производственного процесса, для конкретных оборонных приложений, включая ракеты, UUV и USV, а также системы шифрования. Третьи отмечают важность создания открытых архитектур, модульности и взаимозаменяемости деталей, методов тестирования и оценки, а также интеграции передачи данных для улучшения межсистемной совместимости.
Тестирование и оценка
Китайские ученые в целом согласны с тем, что тестирование и оценка (Tи О) необходимы для повышения доверия к интеллектуальным системам и установления их боевой эффективности. Однако они также открыто выражают обеспокоенность по поводу китайского режима Ти О для систем с поддержкой ИИ.
Некоторые учёные видят многочисленные проблемы, препятствующие Китаю на пути к созданию надежных режимов Ти О. Например, они отмечают, что из-за сложности и неопределенности будущих войн невозможно протестировать автономные системы вооружения во всех возможных сценариях, что делает невозможным их полную оценку. Они также утверждают, что сами испытания могут вызвать проблемы с безопасностью. Некоторые жалуются на высокие затраты, связанные с проведением экспериментов по Ти О, в то время как другие, как отмечалось выше, указывают на отсутствие стандартов Ти О, имеющих решающее значение для систематического развития военных систем с поддержкой ИИ. Наконец, эксперты отмечают трудности, связанные с оценкой интеллекта различных систем с поддержкой ИИ. Такие трудности приводят к отсутствию доверия к системам, уровень интеллекта которых невозможно легко проверить или подтвердить.
Поскольку протоколы ТиО для военных систем с поддержкой ИИ лишь сравнительно недавно стали предметом пристального внимания, в документах содержится более подробное обсуждение того, как создать или улучшить эти режимы, чем анализ существующих проблем, связанных с ТиО.
Некоторые авторы, например, призывают к разработке стандартов Tи О для множества приложений, связанных с искусственным интеллектом, таких как взаимодействие человека и машины, интерфейсы «мозг-компьютер», системы вооружения и оборудования, группы БПЛА и полупроводники. Другие утверждают, что Китаю следует разработать стандартные наборы данных для испытаний и оценки ракетных систем с поддержкой ИИ. Третьи предлагают конкретные рекомендации по созданию рамок для методов моделирования, особенно для алгоритмов и оружия, а также по созданию специализированных испытательных центров для беспилотного оборудования, среди прочего.
Некоторые ученые также отмечают важность обширных практик Ти О для создания систем оперативных систем, на которые НОАК будет опираться в будущих войнах. Как обсуждается в докладе, системы вооружений полагаются на сети связи, датчики и системы обработки данных, которые, если они не проходят индивидуальное тестирование, могут быть ненадежными. Поэтому некоторые ученые утверждают, что все стороны, участвующие в разработке интеллектуального оружия, от производителей устройств до сетевых поставщиков и конечных пользователей, должны подвергнуть свою продукцию строгим испытаниям, прежде чем объединять отдельные системы вместе для формирования систем. Другие утверждают, что такие испытания могут способствовать интеграции и боевому применению военных систем. Короче говоря, китайские ученые признают, что Ти О является проблемой как на уровне компонентов, так и на уровне системы. Недостаточно протестировать отдельный дрон. Скорее, этот дрон должен быть протестирован сам по себе, а затем, например, как компонент более крупной системы дронов в рое.
Ключевые выводы
1. В соответствии с результатами анализа CSET, китайские учёные в области обороны полагают, что ИИ и другие новые технологии предоставляют Китаю уникальную возможность догнать или превзойти Соединенные Штаты в военном отношении.
2. Однако многие из китайских аналитиков обеспокоены тем, что НОАК пока отстает от вооруженных сил США в разработке и внедрении ИИ и связанных с ним новых технологий.
3. Китайские эксперты по обороне утверждают, что НОАК сталкивается с препятствиями на пути разработки и внедрения ИИ и связанных с ним новых технологий. Препятствия, на которые указывают эксперты, аналогичны некоторым из тех, с которыми, судя по всему, борются и американские военные. Например, китайские наблюдатели обеспокоены способностью НОАК гарантировать сетевую и кибербезопасность, поддерживать связь в будущих конфликтах высокой интенсивности и разрабатывать надежные системы ИИ.
4. Эксперты также указывают на проблемы, которые могут быть особенно актуальны для способности НОАК эффективно использовать военные системы с поддержкой ИИ. Эти проблемы связаны со сбором, управлением и анализом военных данных, а также с разработкой высококлассных датчиков. Они также, похоже, обеспокоены недостаточно строгими военными стандартами НОАК, а также практикой испытаний и оценки. Эти проблемы, а также проблемы, упомянутые в предыдущем абзаце, могут усложнить путь Китая к ведению системной войны с использованием ИИ— ключевой оперативной концепции, которая, по мнению НОАК, поможет ей выигрывать в будущих войнах.
5. Вопреки некоторым обсуждениям в США взглядов Китая на военный ИИ, многие китайские эксперты, чьи аргументы были проанализированы в этом докладе, высказывают опасения по поводу использования недостаточно надежных систем ИИ в военном контексте. Они также выражают обеспокоенность по поводу рисков возникновения или эскалации войн, гибели мирного населения и нападения на дружественные силы со стороны военных систем с поддержкой ИИ из-за недостаточно надежного ИИ. Наконец, они отмечают, что ненадежные военные системы ИИ могут оказаться менее эффективными в будущих войнах.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_vo_glave_armii_kitaya
27.06.2024 ИИ и квантовые технологии для войны
Удвоенная разрушительная сила
Администрация Байдена считает риск военного проигрыша в гонке квантовых вычислений достаточно серьезным, поэтому еще в мае 2022 года издала две президентские директивы:
одну - о том, чтобы передать консультативный комитет Национальной квантовой инициативы непосредственно в подчинение Белому дому;
другую — о том, чтобы руководить правительственными учреждениями для обеспечения лидерства США в области квантовых вычислений при одновременном снижении потенциальных рисков безопасности, которые квантовые вычисления представляют для криптографических систем.
1. Почему квантовые вычисления опаснее искусственного интеллекта
Эксперты Foreign Policy в августе 2022 года в статье c таким названием писали:
«Неспособность мира обуздать демона ИИ — или, скорее, грубые технологии, маскирующиеся под таковые, — должна служить серьезным предостережением. Существует еще более мощная новая технология, способная посеять хаос, особенно в сочетании с ИИ: квантовые вычисления».
«Несмотря на то, что квантовые вычисления все еще находятся в зачаточном состоянии, они работают на совершенно иной основе, чем современные компьютеры, на основе полупроводников. Если различные проекты, реализуемые по всему миру, увенчаются успехом, эти машины будут чрезвычайно мощными, решая за считанные секунды задачи, на выполнение которых у обычных компьютеров ушли бы миллионы лет.
Полупроводники представляют информацию в виде последовательности единиц и нулей — вот почему мы называем это цифровой технологией. Квантовые компьютеры, с другой стороны, используют вычислительную единицу, называемую кубитом. Кубит может содержать значения 1 и 0 одновременно, используя парадоксальное свойство квантовой физики, называемое суперпозицией. Таким образом, два кубита могут представлять последовательности 1-0, 1-1, 0-1 и 0-0, все параллельно и в один и тот же момент. Это позволяет значительно увеличить вычислительную мощность, которая растет экспоненциально с каждым дополнительным кубитом».
«Современная криптография кодирует данные в больших комбинациях чисел, которые невозможно взломать за разумное время с помощью классических цифровых технологий. Но квантовые компьютеры, использующие квантово-механические явления, такие как суперпозиция, запутанность и неопределенность, потенциально могут испытывать комбинации настолько быстро, что они смогут взломать шифрование методом перебора почти мгновенно».
«Из-за огромной потенциальной мощи технологии и революционных применений, проекты квантовых вычислений уже являются частью оборонных и других правительственных исследований. Такого рода исследования окутаны тайной, и существует множество заявлений и спекуляций о достигнутых вехах. Известно, что Китай, Франция, Россия, Германия, Нидерланды, Великобритания, Канада и Индия реализуют свои проекты. В Соединенных Штатах лидерами являются IBM, Google, Intel и Microsoft, а также различные стартапы, оборонные подрядчики и университеты.
Несмотря на отсутствие огласки, были проведены заслуживающие доверия демонстрации некоторых основных приложений, в том числе квантовых датчиков, способных обнаруживать и измерять электромагнитные сигналы. Один из таких датчиков был использован для точного измерения магнитного поля Земли с Международной космической станции.
В другом эксперименте голландские исследователи телепортировали квантовую информацию через рудиментарную квантовую коммуникационную сеть. Вместо того, чтобы использовать обычные оптические волокна, ученые использовали три небольших квантовых процессора для мгновенной передачи квантовых битов от отправителя к получателю».
«Эти эксперименты могут заложить основу для будущего квантового интернета, в котором квантовые данные могут безопасно передаваться через сеть квантовых компьютеров быстрее скорости света. До сих пор это было возможно только в области научной фантастики.
Эксперименты также направлены на объединение квантовых вычислений с ИИ, чтобы превзойти ограничения традиционных компьютеров.
Сегодня обучение больших моделей машинного обучения на цифровых компьютерах занимает месяцы из-за огромного количества вычислений, которые необходимо выполнить — например, GPT-3 от OpenAI имеет 175 миллиардов параметров. Когда эти модели вырастут до триллионов параметров (что является обязательным требованием для того, чтобы современный ИИ стал умным), им потребуется еще больше времени для обучения. Квантовые компьютеры могут значительно ускорить этот процесс, используя при этом меньше энергии и пространства».
«Еще в марте 2020 года Google запустил TensorFlow Quantum, одну из первых гибридных платформ квантового ИИ, которая выводит поиск закономерностей и аномалий в огромных объемах данных на новый уровень. В сочетании с квантовыми вычислениями ИИ теоретически может привести к еще более революционным результатам, чем разум ИИ, о котором предупреждали критики».
«В кругах, занимающихся технологиями безопасности и национальной обороны, Святым Граалем является так называемый криптоаналитически релевантный квантовый компьютер — система, способная взломать большую часть криптографии с открытым ключом, используемой цифровыми системами по всему миру, что, например, позволит взломать блокчейн».
«Китай, по данным американских экспертов, лидирует в различных областях квантовых технологий, таких как квантовые сети и квантовые процессоры. Два самых мощных в мире квантовых компьютера были построены в Китае, а еще в 2017 году ученые Китайского университета науки и технологий в Хэфэе построили первую в мире сеть квантовой связи с использованием передовых спутников».
«Зная, что все правительства стремятся к этой технологии просто для того, чтобы не дать противнику стать первым, китайские успехи вполне могут свидетельствовать о преимуществе над Соединенными Штатами и остальным Западом».
2. Призыв к созданию нового квантового центра под руководством Пентагона набирает обороты в Конгрессе США
Законодатели Палаты представителей предлагают увеличить на 20 миллионов долларов финансирование армейских исследований и разработок для первого в своем роде квантового центра передового опыта.
Член Палаты представителей Конгресса США Нэнси Мейс планирует выдвинуть предложение, согласно которому армия США вложит миллионы в создание первого в своем роде Центра передового опыта в области квантовых вычислений для помощи военным. Об этом 22 июня 2024 года сообщил DefenseScoop высокопоставленный представитель команды законодателя.
Квантовые вычисления и информатика представляют собой все еще развивающуюся и, вероятно, революционную область, которая применяет законы физики и сложные явления, происходящие на атомных и субатомных уровнях, для хранения, измерения и перемещения информации.
При поддержке Конгресса агентства национальной безопасности США в последние годы все больше отдают приоритет деятельности и финансированию квантовых технологий, чтобы подготовиться к соответствующей технологической трансформации, которая может быть уже на горизонте.
Эти инвестиции будут «компенсированы сокращением расходов на эксплуатацию и техническое обслуживание в масштабах всей обороны», подтвердил представитель ее офиса.
В мае 2024 года DefenseScoop сообщил, что Подкомитет вооруженных сил Палаты представителей по киберинновационным технологиям и информационным системам (CITI) представил в Законе о повышении качества жизни военнослужащих и разрешении национальной обороны на 2025 финансовый год положение о создании универсального квантового центра, ориентированного на военные нужды.
Такие центры, также называемые ЦП, обычно создаются в рамках федеральных агентств для стимулирования и координации инноваций или модернизации вокруг конкретной, часто связанной с технологиями, интересующей темы.
Первоначальное предложение CITI — призыв к созданию центра в «исследовательской лаборатории прикрытых Вооружённых Сил с необходимым опытом в области квантовых вычислений, интегрированной фотоникой и фотонных кубитов, сверхпроводящих и гибридных систем, а также захваченных ионов» — вошло в недавно принятый Палатой представителей законопроект NDAA на 2025 финансовый год.
Сенат еще не принял свою версию NDAA, которую необходимо будет согласовать с версией Палаты представителей, прежде чем она станет законом.
Хотя новая поправка Мейс к отдельному законопроекту об ассигнованиях на тот же финансовый год может придать дополнительный импульс созданию нового количественного COE, она также явно вовлечет армию в намеченные усилия.
«Увеличивая финансирование армейского счета RDT&E для создания Центра передового опыта в области квантовых вычислений Министерства обороны, мы стремимся к будущему, в котором Америка лидирует в квантовых инновациях. Эти стратегические инвестиции дадут нашим вооруженным силам решающее технологическое преимущество, укрепят нашу национальную безопасность против возникающих глобальных угроз и позволят нам оставаться впереди в гонке против таких противников, как Китай», — заявил представитель ее команды DefenseScoop.
Джон Берк, главный директор по квантовой науке в OASD (S&T), заявил во время технологического саммита Defense One в Вирджинии 18 июня 2024 года, что только в 2024 году они уже выделили 100 миллионов долларов на разработку квантовых приложений для истребителей.
«Первоначальной квантовой технологией была GPS», — сказал Берк. «Мы активно работаем над другими квантовыми технологиями, чтобы обеспечить позиционирование и синхронизацию истребителя, чтобы им не приходилось все время полагаться на GPS».
«Мы прилагаем к этому усилия», — сказал он. «Даже в этом, 2024 году, у нас есть около 100 миллионов долларов… только на эту область».
Квантовые технологии, использующие принципы квантовой теории, могут быть использованы для создания датчиков для поиска подводных лодок и подземных бункеров, говорится в докладе Исследовательской службы Конгресса США, опубликованном в конце 2023 года.
Ученые также предположили, что квантовый радар может быть использован для лучшего обнаружения самолетов, таких как американский истребитель F-35, который труднее увидеть на радаре, чем обычные самолеты, из-за его малозаметной конструкции.
Квантовые вычисления также могут быть использованы для шифрования коммуникаций до такой степени, что их невозможно взломать, что делает их защищенными от перехвата противниками.
3. Квантовая готовность для Пентагона и его подрядчиков
Стивен Ремерман, председатель и генеральный директор Lone Star Analysis пишет на сайте Military Embedded Systems (21.06.2024):
«Существует тенденция думать о квантовой технологии как о «далеком будущем» или как о чем-то «слишком большом», чтобы иметь значение для систем военного назначения или других встроенных систем. Вы можете подумать: «Моя организация на самом деле не занимается бизнесом, на который это повлияло». Вы не одиноки, но все равно ошибетесь. Итак, пора ли паниковать? Нет, но пришло время составить квантовую дорожную карту для каждого подразделения.
Необходимые шаги для достижения квантовой готовности
Шаг нулевой: поймите то, что знает каждая разведывательная служба: ваше шифрование — это бомба замедленного действия.
Одним из первых применений квантовых компьютеров станет уничтожение двух наиболее распространенных форм шифрования информации. Противники, которые «собирают сейчас, расшифровывают позже», собирают ваши зашифрованные файлы. Они будут храниться до тех пор, пока не станут доступны зрелые квантовые компьютеры. Ваши файлы — это будущая ответственность, особенно когда они находятся в движении.
Вы можете подумать: «Я полностью соответствую требованиям, и мы соответствуем FIPS 140-2 (или какому-либо другому стандарту)». Это хорошо и необходимо, но, вероятно, недостаточно. Планирование перехода к квантово-устойчивому шифрованию имеет важное значение. Фактически, Национальный институт стандартов и технологий (NIST) занимается его анализом и продвижением.
Прежде чем выйдут новые стандарты, необходимо защитить сегодняшние данные. Если у вас есть старые системы, использующие устаревшее шифрование, такое как DES (стандарт шифрования данных) или короткие ключи, вашим командам следует отойти от этих стандартов СЕЙЧАС. Это может означать, что некоторые контроллеры SCADA собирают данные HVAC или любые другие устаревшие системы, которые не обновляются. Подумайте, какую информацию стоит защитить через два-пять лет, и определите приоритетность того, что будет перенесено в новые схемы.
Вы можете нести фидуциарную ответственность за это, чтобы защитить свое подразделение. Вероятно, вы обязаны заботиться о заинтересованных сторонах, чьи данные вы храните, будь то клиенты, сотрудники, поставщики или акционеры. Подумайте об этом, прежде чем перейти к четырем шагам построения дорожной карты.
Шаг первый: начните понимать, как квантовые технологии изменят наши подразделения и то, как мы выполняем свои задачи.
Не думайте о квантовых технологиях как о просто «вычислениях». Квантовая запутанность как форма коммуникации уже дает ошеломляющие результаты. Что касается встроенных систем, вы можете предположить, что установленные в настоящее время оптоволоконные сети, вероятно, позволят нам обмениваться как обычными, так и квантовыми данными.
Квантовые технологии изменят не только компьютеры и сети. Они изменят датчики, систему точного времени и другие компоненты современных систем. Поскольку встроенные системы зависят от таких вещей, как точность синхронизации и поддержка обработки данных датчиками, богатыми данными, стоит приложить усилия, чтобы представить, как квантовые вычисления изменят предложения продуктов, конфигурации систем и возможности будущих миссий.
Прежде чем тратить много времени и денег, постарайтесь понять, что может измениться и как это может повлиять на вашу конкурентоспособность. Возможно, позже вам придется потратить много денег, но тратить деньги сейчас — плохой выбор для большинства организаций.
Не обманывайте себя, думая, что дорогостоящая деятельность — это ценный прогресс. Эта ошибка так же плоха, как и ничегонеделание.
Шаг второй: Google, IBM, Amazon и другие прилагают большие усилия для разработки квантовых нейронных сетей.
Отчасти это связано с надеждой на то, что квантовый искусственный интеллект (ИИ), вероятно, будет менее требовательным к данным, чем нынешние основные системы.
Но поймите, что этот вид ИИ по-прежнему зависит от огромных объемов размеченных данных и что большая часть работы над квантовым ИИ сосредоточена только на том, чтобы сделать ИИ возможным на квантовой машине, которая еще не существует.
Квантовые технологии не повлияют на некоторые конкурентные преимущества, и это справедливо и для вашей организации. Однако будьте осторожны: в этой области сложно дисциплинировать мышление. Это также то место, где удивительно легко проявить высокомерие и отрицание.
Только ваша команда может определить, как этот вопрос применим к вашим продуктам и системам.
Шаг третий: подумайте, где квант позволяет вам использовать свои основные компетенции для создания будущих конкурентных преимуществ.
Ваши компетенции принадлежат только вам. Но если вы выполните шаги с нулевого по второй, вы обнаружите некоторые возможности для рассмотрения. Некоторые из этих возможностей будут стоить вложений.
Например, ключевые компетенции некоторых оборонных компаний включают умелое использование неопределенности, которая лежит в основе многих наиболее многообещающих свойств квантовых технологий. В свою очередь, это дает естественный способ задуматься о том, на чем следует сосредоточить внимание команде исследований и разработок организации.
Шаг четвёртый: создайте квантовую дорожную карту для своей организации.
Она не будет идеальной. События в ближайшие месяцы и годы потребуют пересмотра. Конкуренты преподнесут сюрпризы. Вам придется скорректировать свой курс. Пересмотры и корректировки возможны только в том случае, если у вас уже есть заранее намеченный курс.
Обмен возможностями дорожной карты с ключевыми клиентами имеет важное значение: они захотят и должны знать ваши планы по расширению лидерства в области предписывающей и прогнозной аналитики.
4. Навигационная система на базе ИИ и квантовых датчиков для противодействия подмене и глушению GPS
SandboxAQ, компания-разработчик программного обеспечения и услуг, предоставляющая ИИ и квантовые технологии, 25 июня 2024 года представила новую навигационную систему, которая поможет бороться с проблемами GPS, такими как глушение и спуфинг.
Компания спокойно работала над новой навигационной системой, получившей название AQNav, в течение последних 18 месяцев.
«Одним из самых важных достижений в современной войне стала способность действовать с точностью как во времени, так и в пространстве. Это стало возможным благодаря почти повсеместному распространению спутниковых сигналов, таких как GPS. Все понимают, что это первая точка атаки — как нарушить способность противника использовать GPS и подобные системы», — сказал Джон Ричардсон, бывший начальник военно-морских операций, который тесно сотрудничает с SandboxAQ в качестве советника, в пресс-релизе компании, направленном в Breaking Defense (25.06.2024).
Ричардсон добавил, что конфликты на Украине и в Газе подчеркнули растущую угрозу сбоев в работе GPS и их последствия для будущего войны.
AQNav использует алгоритмы ИИ, квантовые датчики и магнитное поле земной коры для обеспечения навигации в режиме реального времени в ситуациях, когда сигналы GPS подавлены. Согласно пресс-релизу компании, AQNav работает в любых погодных условиях и может использоваться в воздушной, наземной и морской среде.
ВВС США заключили с SandboxAQ контракт на разработку инструментов с использованием геомагнитной навигации в январе 2023 года, а к маю 2023 года AQNav завершил свои первые летные испытания.
Новая система опирается на чувствительные квантовые магнитометры, которые собирают данные из магнитного поля земной коры, имеющие географически уникальные паттерны.
Затем система использует алгоритмы ИИ для сравнения паттернов земной коры с известными магнитными картами, что позволяет AQNav точно и быстро определить свое положение.
Поскольку квантовые датчики обладают высокой чувствительностью, алгоритмы ИИ используются для улучшения соотношения сигнал/шум, что устраняет механические, электрические или другие помехи, которые могут повлиять на способность системы точно определять свое местоположение. Это позволяет AQNav быть непроницаемым для таких проблем, как глушение и спуфинг — по крайней мере, так считают в компании.
«GPS легко заглушить и подделать. Когда самолеты и корабли теряют GPS в движении и переключаются на инерциальные навигационные системы, транспортное средство дрейфует и вскоре оказывается сбившимся с курса. Магнитное поле земной коры обеспечивает постоянный, пассивный внешний сигнал, что делает его высоконадежным источником данных для навигации в сочетании с другими инерциальными и прочими источниками», — сказал в пресс-релизе Лука Феррара, генеральный менеджер по навигации SandboxAQ.
По состоянию на 25 июня 2024 года AQNav эксплуатировалась на более чем четырех различных типах самолетов, выполнив более 40 развертываний и зарегистрировав более 200 летных часов, включая летные испытания ВВС США, Boeing и Acubed by Airbus.
Согласно пресс-релизу, AQNav потенциально может быть использован для улучшения управления автономными транспортными средствами и использоваться под землей или под водой, где нет сигналов GPS.
5. Прозрачное море: AUKUS обращается к ИИ и квантовым технологиям в охоте за китайскими подводными лодками
Анализ данных датчиков с помощью искусственного интеллекта, в том числе новые виды квантового обнаружения, может дать летальное преимущество в подводной войне — либо альянсу Австралии, Великобритании и США, либо Китаю.
Сегодня противолодочная борьба - это битва машин. Алгоритмы ИИ собирают воедино акустические подсказки от множества разрозненных датчиков, которые обмениваются данными по сетям дальнего действия. А завтра, как сообщили эксперты изданию Breaking Defense (29.01.2024), новые технологии — от роботов-разведчиков до квантового зондирования — угрожают разорвать завесу скрытности и подвергнуть подводные лодки нападению.
Тот, кто овладеет этими технологиями, может получить жизненно важное преимущество в морской войне, имеющей отношение к Арктике, Балтийскому и Черноморскому флангам НАТО и, прежде всего, к американо-китайскому соперничеству в обширном Тихом океане. Таким образом, исследования в области ИИ, робототехники, квантовой науки и противолодочной войны становятся все более важными и все более переплетающимися для США и их союзников.
«Военно-морской флот стремится использовать передовые технологии», — сказал представитель службы в заявлении Breaking Defense. «Мы понимаем важность квантовых технологий, включая квантовое зондирование, квантовый тайминг и ИИ для обнаружения подводных лодок и борьбы с подводными лодками в подводной сфере, среди других приложений».
Можно с уверенностью предположить, что то же самое верно и для агрессивно модернизирующихся и все более агрессивных ВМС НОАК Китая. Помимо часто упоминаемой цели принудительного «воссоединения» с Тайванем к 2027 году, Китай стремится стать мировым лидером в области ИИ к 2030 году и, возможно, опережает его в некоторых нишах квантовой науки, таких как теоретически невзламываемые сети, использующие так называемое квантовое распределение ключей.
По крайней мере, на данный момент преимущество — особенно в области квантовых технологий — принадлежит тройственному альянсу AUKUS Австралии, Великобритании и США, утверждает Артур Герман, директор Quantum Alliance Initiative в Институте Хадсона.
«Это технологическая гонка, в которой страны AUKUS могут иметь асимметричное преимущество над Китаем, если они интегрируют свои квантовые исследования и разработки, чтобы получить серию прототипов для T&E (тестирования и оценки) в море», — сказал Герман в интервью Breaking Defense. «Как и появление гидролокатора, появление квантового зондирования может произвести революцию в подводной войне — независимо от того, говорим ли мы о пилотируемых или беспилотных системах».
В то время как пилотируемые подводные лодки получают славу, беспилотные подводные аппараты (НПА) уже широко используются, добавил коллега Германа по Хадсону, бывший подводник и стратег ВМС Брайан Кларк.
«Беспилотные летательные аппараты очень зрелые, и некоторые из них ВМС США (например, серии Remus 100 и 600) находятся на вооружении в течение 20 лет», — сказал Кларк в интервью Breaking Defense. «Последние версии высоко автоматизированы, и, как мы рассмотрели в нашем недавнем исследовании для ADF (Силы обороны Австралии), время, в течение которого UUV может работать без посторонней помощи, может составлять недели или месяцы, в зависимости от того, насколько сложна задача. … В нашей работе с ADF беспилотные системы, безусловно, являются наиболее заметной новой технологией, которую они разрабатывают».
Сегодня большинство этих подводных дронов неуклюжи и медленны: серия Remus 600 развивает скорость не более пяти узлов, а не 10 км в час, по сравнению с более чем 45 км в час для атомной атомной ударной подводной лодки класса «Вирджиния». Но, будучи меньше, дешевле и не ограничены человеческой выносливостью, они могут «наводнить зону» датчиками, наблюдая и ожидая, пока они не заметят что-то, что их алгоритмы пометят как интересное, а затем сообщить об этом надзирателям-людям. В будущем новые виды квантовых датчиков и сложная обработка сигналов ИИ могут сделать эти рои роботизированных субмарин гораздо более сложными для уклонения.
Союзники продвигаются вперед в противолодочной войне
В январе 2024 года два ключевых союзника в Тихом океане, Австралия и Япония, объявили о беспрецедентном соглашении о сотрудничестве в области исследований «для расширения стратегических возможностей в области роботизированных и автономных систем для подводной войны». Незадолго до этого, 1 декабря 2023 года, альянс AUKUS объявил о своем последнем списке инициатив в области исследований, разработок и экспериментов, начиная от инвестиций в промышленную базу и заканчивая радарами космического мониторинга.
Пять из этих проектов были непосредственно нацелены на подводную сферу:
беспилотные мини-подводные лодки, достаточно маленькие, чтобы их можно было запускать из торпедных аппаратов, в том числе на будущих австралийских подводных лодках, разработанных США, как для ударных, так и для разведывательных миссий;
алгоритмы ИИ на базовом американском и австралийском морском патрульном самолете P-8A Poseidon и других неопределенных системах для обработки массивов данных, собранных сбрасываемыми с воздуха гидроакустическими буями;
«интегрированные трехсторонние эксперименты и учения» для автономных систем в больших масштабах, как беспилотных летательных аппаратов, так и автоматизированного обмена данными;
ИИ/машинное обучение для множества целей, включая «точное наведение, а также разведку, наблюдение и рекогносцировку... на суше и на море»;
«Квантовое позиционирование, навигация и синхронизация», в котором используются миниатюрные квантовые часы и датчики для замены GPS. Это ценно для воздушных и надводных сил в военное время, когда GPS часто глушится, а также для подводных лодок постоянно, потому что сигнал GPS не может проникнуть под воду. (То же самое можно сказать и о радаре или радио, которые используют один и тот же тип электромагнитных волн.).
В то время как покупка Австралией американских атомных подводных лодок является высокобюджетным и громким «Столпом I» AUKUS, эти новые инициативы относятся к более широкому и, в долгосрочной перспективе, не менее важному «Столпу II». Речь идет о научно-исследовательском сотрудничестве в рамках восьми «передовых возможностей», две из которых имеют непосредственное отношение к новым подводным войнам: «квантовым технологиям» и «ИИ и автономии».
Квант, в частности, является быстро развивающейся (и плохо изученной) технологией, которая использует парадоксальное поведение субатомных частиц. Это также научная арена, где Австралия, хотя и является лишь 12-й по величине экономикой в мире, бьет намного выше своего веса.
На самом деле, с точки зрения квантовых инноваций на душу населения, «они, вероятно, были бы номером один», — сказала Селия Мерцбахер, исполнительный директор Консорциума квантового экономического развития.
«Австралийский институт стратегической политики (Australian Strategic Policy Institute) сделал очень интересную оценку, подсчитав «высокоцитируемые публикации», — сказала она в интервью Breaking Defense. «Это показывает, что США и Китай занимают первое и второе место в каждой квантовой области», что неудивительно, но Австралия, Великобритания и другие союзники США доминируют в первой пятерке в большинстве подкатегорий квантовых исследований.
На данный момент квантовые вычисления в основном происходят в лаборатории, а не на борту подводных лодок. «Большая часть усилий ведется на фундаментальном научном уровне между оборонными исследовательскими организациями, такими как DSTG в Австралии и NRL, DARPA и т. д. в США», — сказал Кларк. Но в то время как продвинутые приложения, такие как квантовые компьютеры для взлома кода, могут появиться через десять или более лет, одно приложение уже здесь: хронометраж.
По словам экспертов, измеряя время буквально «в миллион раз лучше», чем атомные часы, из которых они развились, квантовые часы позволяют датчикам делать гораздо более точные измерения. Это полезно для самых разных целей, особенно для инерциальных навигационных систем, которые со временем незаметно «отклоняются» от своего истинного курса и требуют постоянного исправления ошибок: чем чаще, тем лучше. Инерциальная навигация, в свою очередь, важна, потому что она работает, когда GPS недоступен, например, под водой.
Следующая эволюция квантовой науки — это сенсорика, потому что квантовые явления могут быть чрезвычайно чувствительны к внешним силам. Изучая, как субатомные частицы изменяют свое поведение, наблюдатели могут сделать вывод о том, какое внешнее воздействие изменяет его. Таким образом, теоретически квантовый датчик может улавливать всевозможные явления, которые не может обнаружить гидролокатор, от магнитных полей до тонкого гравитационного притяжения большого судна, такого как подводная лодка.
Но эта чувствительность — палка о двух концах, потому что, по определению, более чувствительные датчики улавливают больше всего, включая ложные срабатывания. Та же проблема относится и к некоторым другим типам датчиков, в частности, к обнаружению магнитных аномалий (MAD). Впервые примененная во время Второй мировой войны, MAD оказалась настолько чувствительной, что обнаружила десятки затонувших кораблей, поскольку искала тонкие искажения в магнитном поле Земли, создаваемые металлическим корпусом субмарины, ограничивая ее эффективную дальность, даже в современных версиях, менее мили. Точно так же некоторые формы пассивного гидролокатора, который тихо прислушивается к врагам, а не активно посылает сигнал «пинг», изо всех сил пытаются отделить подводные лодки от китов и штормовой погоды.
Во всех этих случаях, однако, есть потенциальное решение: применение мощных алгоритмов распознавания образов для обработки массива данных, отбрасывания ложных срабатываний и выделения вероятных контактов, которые должен исследовать оператор. В настоящее время эти алгоритмы используют ИИ.
«Алгоритмы ИИ используются в противолодочных войнах уже около десяти лет», — сказал Кларк. «Передний край алгоритмов обработки ASW все больше фокусируется на извлечении слабых сигналов из фонового шума».
Проблема в подводной охоте заключается не в нехватке высококачественных датчиков, утверждает Сидхарт Каушал, военно-морской эксперт из британского Королевского объединенного института оборонных исследований. Скорее, это нужно для того, чтобы отсортировать больше и более беспорядочных данных, чем может справиться человеческий разум.
«У нас уже очень давно есть датчики, которые обладают высокой точностью. Речь идет о том, чтобы отделить сигнал от шума», — сказал Каушал на недавнем круглом столе для СМИ. «Как правило, это очень сложная задача для людей, вовлеченных в процесс, но машинное обучение может значительно упростить процесс».
Это означает, что старые датчики, которые когда-то считались слишком чувствительными для операторов, или новые, такие как квантовые детекторы, становятся все более и более пригодными для использования в реальных миссиях по мере развития ИИ.
6. Вооруженная квантовыми датчиками, Франция совершает прорыв в электронной войне
В 2024 году ВМС Франции получили свой первый серийный датчик квантовой технологии – квантовый гравиметр, используемый для картографирования морского дна, сообщил глава Агентства оборонных инноваций Франции Патрик Офорт. В будущем такие датчики могут использоваться для навигации или обнаружения подводных лодок противника.
ВМС также работает с французским оборонным гигантом Thales над квантовыми датчиками для радиоэлектронной борьбы, которые позволят контролировать широкую полосу электромагнитного спектра, сообщил Defense News (25.06.2024) Патрик Офорт на выставке обороны Eurosatory в июне 2024 года в Париже. По его словам, эти датчики будут доступны в течение следующих пяти лет.
В 2022 году Франция выделила 1,8 миллиарда евро, или 1,93 миллиарда долларов США, на развитие квантовых технологий — быстро развивающейся области, которая использует законы квантовой физики для создания новых форм вычислений, связи и зондирования. Квантовые гравиметры измеряют падающие атомы, охлажденные лазером, чтобы обнаружить крошечные изменения гравитационного притяжения, которые можно использовать для определения массы подводной лодки противника. Согласно аналитическому обзору European Leadership Network за 2020 год, у подводных лодок нет способов защитить себя от таких датчиков.
Гравиметр «особенно полезен для первых задач, которые мы здесь делаем, — картографирования морского дна», — сказал Офорт. «Но после этого мы можем представить себе другие варианты использования гравиметра, в частности, для позиционирования и обнаружения наличия полости на морском дне».
Французское агентство оборонных закупок DGA с 2006 года финансирует работу Французского национального бюро аэрокосмических исследований Onera над квантовыми гравиметрами, первый образец которых был представлен в 2016 году. Офис работал с французской компанией Muquans, которая сейчас является частью технологической фирмы Exail, над индустриализацией производство гравиметра .
По словам Офорта, вторая разработка, над которой работает Франция, — это квантовые датчики радиоэлектронной борьбы, которые позволят с большей вероятностью перехватывать излучения в электромагнитном спектре, включая радары и средства связи.
«Квантовые технологии позволяют иметь гораздо лучшее разрешение того, что вы собираетесь обнаружить, и, прежде всего, мгновенное обнаружение в очень широкой полосе пропускания», — сказал Офорт. «У вас есть доступ к гораздо большей пропускной способности и, следовательно, более высокая вероятность перехвата, поскольку излучение на самом деле мимолетно».
Квантовые датчики радиоэлектронной борьбы могут использовать квантовые биты с лазерным охлаждением, которые взаимодействуют с любыми входящими электромагнитными волнами, измеряя мельчайшие изменения в квантовом состоянии кубита. Сегодняшний анализ основан на ротации различных диапазонов для мониторинга всего спектра.
Глава агентства оборонных инноваций заявил, что квантовые компьютеры являются «вопросом не месяцев, а лет», и они могут представлять собой смесь традиционных высокопроизводительных вычислений с квантовой частью. В марте 2024 года DGA заключило контракты с пятью французскими стартапами, занимающимися компьютерными исследованиями, на разработку технологии, которая позволит Франции иметь два универсальных прототипа квантового компьютера к 2032 году.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_i_kvantovie_tehnologii_dlya_vojni
26.06.2024 ИИ на войне. Часть II
Ближний Восток стал ключевым рубежом в борьбе сверхдержав за технологическое превосходство
IV. Дью Томпсон в статье на сайте Military Embedded Systems (21.06.2024) «Эволюция политики Министерства обороны и роль ИИ в современной войне» пишет:
«Интеграция ИИ в военные приложения представляет собой сложную и многогранную задачу, охватывающую технологические достижения, политические рамки, стратегические соображения и этические проблемы. Чтобы идти в ногу с быстрыми темпами, с которыми технологии ИИ продолжают совершенствоваться и развиваться, Министерство обороны США (DoD) разработало единую стратегию внедрения, направленную на улучшение организационной среды, в которой руководители Министерства обороны и военнослужащие смогут принимать быстрые и обоснованные решения, умело используя высококачественные данные, расширенную аналитику и ИИ для получения долгосрочного преимущества в принятии решений.
Использование ИИ в военных и боевых целях является относительно новым явлением, но ограниченное использование технологии уже приносит пользу бойцам. В этой зарождающейся форме ИИ в основном используется для сбора и обработки информации. Например, ИИ гораздо эффективнее, чем люди, просеивает большие объемы данных и изображений или отслеживает ленты в поисках значимой информации.
Одним из наиболее важных современных применений является идентификация и распознавание угроз, особенно в воздушном бою. Это может быть достигнуто путем обнаружения уникальных радио- или радиолокационных сигналов, которые излучаются отдельными самолетами или типами воздушных судов. В прошлом это была огромная задача, требующая широкого спектра датчиков, работающих и записывающих информацию из различных источников и частотных диапазонов. Затем эти данные датчиков были проанализированы специалистами для обнаружения и идентификации различных сигналов, связанных с отдельными самолетами или типами воздушных судов. Сегодня работа по идентификации, выполняемая многими людьми в течение десятков или сотен часов, может быть выполнена системами ИИ за миллисекунды или секунды.
Аппаратное обеспечение, лежащее в основе военного ИИ
Существует несколько различных аппаратных компонентов, используемых в военных приложениях ИИ.
Высокопроизводительные вычисления (HPC). Большинство военных приложений ИИ требуют мощных вычислительных ресурсов для обработки больших объемов данных и выполнения сложных вычислений в режиме реального времени. Системы высокопроизводительных вычислений, включая, помимо прочего, суперкомпьютеры и кластеры высокопроизводительных серверов, обеспечивают необходимую вычислительную мощность.
Было проведено огромное количество дискуссий и исследований по поводу расположения этих ресурсов высокопроизводительных вычислений. Существует одна школа мысли, которая утверждает, что компоненты высокопроизводительных вычислений более уместно размещать в центральной зоне, вдали от поля боя. Альтернативная точка зрения заключается в том, что все вычисления должны быть перенесены на периферию.
Выполнение большей части интенсивных вычислений в центральном месте позволяет использовать гораздо большее количество и гораздо более широкий спектр типов оборудования и компонентов. Это делает сети или «каналы» гораздо более важным компонентом приложений ИИ.
Кроме того, периферийное оборудование, развернутое в полевых условиях, имеет более ограниченные размеры, чем внешнее оборудование. Периферийное оборудование ограничено размером, в то время как внешнее оборудование ограничено безопасностью и прочностью труб.
Графические процессоры (GPU). Графические процессоры не являются строго необходимыми, но часто используются для ускорения вычислений ИИ, особенно при использовании алгоритмов машинного и глубокого обучения. Графические процессоры являются основным преимуществом в приложениях, использующих параллельную обработку. Военные системы ИИ часто используют графические процессоры для таких задач, как распознавание изображений, обнаружение объектов и автономная навигация.
Программное обеспечение для алгоритмов ИИ и пользовательского интерфейса
Алгоритмы и модели ИИ. Военные приложения ИИ полагаются на передовые алгоритмы и модели для выполнения таких задач, как распознавание изображений, обработка естественного языка, принятие решений и прогнозная аналитика.
Программное обеспечение для моделирования/обучения с большими наборами данных. Для обучения систем ИИ и моделирования различных сценариев используются специализированные программные платформы, которые позволяют реалистично моделировать военную обстановку, тактику и технику. Чтобы наилучшим образом обучить военный ИИ, эти симуляции требуют применения огромных наборов данных — чем больше данных, тем лучше.
Интеграционное программное обеспечение. Военные системы ИИ должны интегрироваться с существующей инфраструктурой и взаимодействовать с другими системами бесшовно и интуитивно. Нельзя ожидать, что солдаты в полевых условиях будут ориентироваться в сложных пользовательских интерфейсах на программных платформах.
Политика Министерства обороны США в отношении ИИ
В течение последних нескольких лет Министерство обороны США стратегически внедряет технологии ИИ и машинного обучения (ML) в различные политики и стратегические документы. Опубликованная Министерством обороны «Стратегия МО США в области искусственного интеллекта на 2018 год» заложила основу для развития централизованной инфраструктуры, интеграции новых технологий и достижения международного лидерства в области этики и безопасности ИИ. В последующих стратегиях, таких как «Стратегия МО США в области данных на 2020 год» и создание Главного управления по цифровым технологиям и искусственному интеллекту (CDAO), еще больше подчеркивалась важность подходов, ориентированных на данные, и оптимизации возможностей ИИ в Министерстве обороны.
Нынешняя руководящая политика, изложенная в «Стратегии внедрения данных, аналитики и искусственного интеллекта Министерства обороны США на 2023 год», основана на предыдущих программных документах и уделяет большое внимание скорости, гибкости, обучению и ответственности. В ней подчеркивается децентрализация полномочий и создание тесных циклов обратной связи между разработчиками и конечными пользователями, направленных на улучшение процессов принятия решений в Министерстве обороны. В стратегии до 2023 года изложен основополагающий, направляющий подход к ИИ, а не пошаговое руководство.
К ключевым компонентам стратегии до 2023 года относится иерархия потребностей ИИ, в которой приоритет отдается высококачественным данным как основе для глубокой аналитики и ответственной разработки ИИ. Стратегия также подчеркивает потребность в удобной для пользователя инфраструктуре и постоянном совершенствовании политик и процессов для обеспечения ответственного внедрения ИИ.
Развернутые решения на основе искусственного интеллекта
В настоящее время существует множество производителей и подрядчиков, которые внедряют ИИ в военные приложения. Эти производители и подрядчики варьируются от крупных компаний, таких как Boeing, General Dynamics, Lockheed Martin, Raytheon и Northrop Grumman, до небольших структур, таких как Anduril.
Системы обнаружения стрелков. Несмотря на то, что системы обнаружения стрелков не являются строго военным приложением, они разработали решение, интегрированное с ИИ, которое позволяет службам быстрого реагирования точно определять место стрельбы. В системе используется ряд акустических и инфракрасных датчиков обнаружения вспышек, интегрированных в системы видео, контроля доступа и массового оповещения. Данные, собранные сенсорной системой, передаются через модуль ввода-вывода непосредственно в программную платформу на основе ИИ, которая может определить, произошел ли выстрел и когда, определить его точное местоположение, уведомить власти и отправить массовые уведомления в течение 0,5 секунды.
Tactical Intelligence Targeting Access Node (TITAN). TITAN, представляет собой масштабируемую наземную станцию экспедиционной разведки, которая ускорит и упростит способность армии получать доступ и обрабатывать огромные объемы разведывательных данных, данных наблюдения и рекогносцировки (ISR).
Физически TITAN представляет собой мобильный центр обработки данных со встроенными системами питания, отопления и охлаждения, резервной связью и вычислительными платформами, встроенными в большую платформу на базе грузовика. Установленные на транспортных средствах экспедиционные наземные станции будут использовать ИИ для обеспечения возможности глубокого зондирования, что позволит вести высокоточный огонь на большие расстояния в современном боевом пространстве. Используя ИИ, TITAN будет выполнять интеграцию, слияние, обработку и аналитические возможности данных с использованием ИИ и машинного обучения, чтобы автоматизировать и помочь армии сократить время от датчика до стрелка.
Встраиваемый компьютер Sealevel Relio R1 Rugged лежит в основе системы TITAN. Relio R1 Rugged отслеживает общее состояние и производительность TITAN. Компьютер малого форм-фактора содержит множество программных приложений и интерпретирует данные от широкого спектра внутренних датчиков.
ИИ в будущем
Интеграция ИИ в военные приложения представляет собой значительный шаг вперед в современной войне, предлагая расширенные возможности в обработке информации, выявлении угроз и процессах принятия решений. Эволюция технологии ИИ связана с развитием надежной технологической инфраструктуры, руководствуясь стратегическими инициативами и политическими рамками, установленными такими организациями, как CDAO.
Несмотря на то, что ИИ обладает огромным потенциалом для повышения военной эффективности, он также поднимает важные вопросы в отношении ответственной разработки, развертывания и применения автономных систем в сценариях конфликтов.
Постоянное сотрудничество между производителями и разработчиками, политиками и военными будет иметь решающее значение для обеспечения того, чтобы военные приложения ИИ расширяли оперативные возможности и вносили ответственный вклад в глобальную безопасность.
V. Президент Корпорации Paratrade Адриан Кранц в статье в The National Interest (24.06.2024) «Скрытый секрет ИИ — центры обработки данных» пишет:
«Развитие ИИ и криптовалют означает, что центры обработки данных и дешевая и обильная энергия, которая их питает, будут становиться все более важными для национальной безопасности.
В то время как публичная сфера переполнена модными словечками, такими как «ИИ» и «криптовалюта», сообщество национальной безопасности все еще борется с последствиями того, как Соединенные Штаты используют их в качестве инструментов государственного управления».
«ИИ создал новые возможности прогнозирования и раннего предупреждения, такие как прогнозирование выборов, роста урожая, потоков доходов и военных перемещений, и все это имеет значительные стратегические и военные последствия.
Небольшие связанные между собой и интегрированные в ИИ военные подразделения — это будущее эффективной войны, и многие страны начинают обращать на это внимание.
Тем не менее, Министерство обороны США не приложило достаточных усилий для закупки и интеграции ИИ в военные операции США. Это ставит военных в положение, аналогичное тому, что было в первые годы войны с террором, совершенно неподготовленными к борьбе с новым типом врага, который двигался и сражался быстрее, чем предполагало высшее руководство.
Тем не менее, существует серьезное расхождение между воспринимаемым воздействием этих технологий и реальными реалиями их внедрения. Более приземленные вопросы энергопотребления в основном остаются незамеченными как лидерами, так и широкой общественностью при обсуждении этих новых технологий и их влияния на национальную безопасность. В частности, существуют определенные потребности в инфраструктуре для всех, кто хочет использовать эти инструменты.
ИИ готов стать нефтью будущего, а центры обработки данных — нефтяными месторождениями, на которых он будет создаваться.
Мы наблюдаем распространение ИИ почти во всех отраслях, и в ближайшем будущем эти отрасли будут полагаться на ИИ для правильного функционирования.
Чем крупнее дата-центры, тем мощнее модель ИИ.
Тем не менее, в отличие от почти любого другого бизнеса, они требуют только одного основного ресурса: электричества — и в огромных количествах.
Сколько энергии потребуется для этих технологий? В настоящее время деятельность по добыче и поддержке биткойнов потребляет от 67 до 240 тераватт-часов, или от 0,2 до 0,9 процента от всего мирового энергопотребления в год.
Что касается ИИ, то вычислительная мощность, необходимая для его использования, удваивается каждые 100 дней и, по прогнозам, к 2028 году составит 4 процента мирового спроса на электроэнергию. Огромные потребности в электроэнергии будут означать, что дешевая энергия, а не дешевая рабочая сила, станет движущей силой выбора технологическими компаниями своих центров деятельности.
Производство аппаратного обеспечения вряд ли переместится из Восточной Азии, но центры обработки данных, работающие на ИИ и криптовалютах, будут построены в районах с обилием дешевой и надежной энергии. Затраты на землю практически незначительны по сравнению с затратами на электроэнергию и оборудование. Важность этих центров обработки данных часто теряется в гламуре продукта, который они делают.
В будущих конфликтах центры обработки данных будут центральной нервной системой любой объединенной боевой силы, и их защита или уничтожение будут основным фактором, определяющим исход конфликта».
«Данные, собранные каждым солдатом, беспилотником, самолетом, танком и системой наблюдения, должны быть собраны и интерпретированы в единую картину всего поля боя, которую командиры могут использовать для принятия решений. В настоящее время накопители и вычислительные мощности, необходимые для выполнения этих задач для полномасштабных боевых сил, можно найти только в центре обработки данных. Тем не менее, мобильные дата-центры находятся в разработке».
«Страх формирует дискуссию о криптовалютах и ИИ в Вашингтоне, в основном из-за недостатка понимания и образования. Образование должно быть в центре внимания, так как понимание подавит страх перед неизвестным».
VI. Тим Стюарт в статье на сайте Military Embedded Systems «Как ИИ улучшает стратегические решения для современных бойцов» (21.06.2024) пишет:
«Новые технологии, тактики, методы и процедуры становятся все более важными на поле боя. Американские военные прекрасно осознают это и интегрируют уроки, извлеченные из недавних военных операций на Украине, а также других конфликтов, в Объединенное объединенное командование и управление во всех областях (CJADC2), концепцию ведения боевых действий, в которой Министерство обороны США стремится достичь превосходства в принятии решений.
Превосходство в принятии решений имеет решающее значение для победы в сражении: оно укрепляет способность бойца «чувствовать, понимать и действовать» (SMSA, на языке Министерства обороны США) на всех уровнях и фазах войны, во всех областях, а также с партнерами-союзниками для быстрой доставки критически важной информации. Для того, чтобы эта концепция ведения боевых действий была реализована в полной мере, необходим четкий путь к ее реализации. ИИ — это тот путь. ИИ обеспечивает превосходство в принятии решений, помогая значительно снизить определенные риски, встречающиеся в чрезвычайно сложных сценариях боевых действий.
Анализ рисков в современных военных операциях
Знание того, как выявлять, анализировать и устранять критические вызовы и риски, а также разрабатывать потенциальные технические решения, важно в современных военных операциях. Это особенно актуально в связи с тем, что большинство взломов, скорее всего, будут осуществляться с использованием беспилотных или опционально пилотируемых систем. Способность распознавать, а затем использовать эти факторы в качестве стратегического актива поможет продвинуть инициативу CJADC2 и повысить превосходство в принятии решений в военных миссиях.
Для достижения этих целей необходимо будет обеспечить защиту и передачу больших объемов данных по тактическим сетям для синхронизации разведки, безопасности и логистики, а также маневрирования транспортных средств, ведения огня по противнику и оказания помощи в выполнении других боевых функций. В целом, CJADC2 направлен на объединение огромных объемов данных, которые различные военные подразделения собирают с помощью широкого спектра распределенных датчиков, и позволяет обрабатывать их в полезную информацию.
Те, у кого есть стратегические, оперативные и тактические интересы в миссии, должны использовать наиболее актуальную информацию, которую они получают, для выполнения своих миссий. Благодаря надежному набору инициатив по коммуникации и обмену данными, CJADC2 направлен на то, чтобы направить нужную информацию в нужные руки, позволяя организациям достигать более высоких результатов в своих конкретных областях ответственности.
Как данные помогают справиться с рисками
Для применения и оценки технологий в процессе принятия решений необходима модель. Петля OODA – Наблюдай, Ориентируйся, Решай, Действуй – хорошо известна и широко распространена, разработанная полковником ВВС США Джоном Бойдом.
Этот четырехступенчатый процесс внимательно соблюдается в сообществе бойцов и сегодня:
1) Наблюдайте за окружающей средой и собирайте информацию;
2) Ориентируйтесь на эту информацию, анализируя ее и понимая ее значение;
3) Решите, какие действия предпринять, основываясь на своих наблюдениях и ориентации;
4) Действуйте в соответствии со своим решением.
Цикл OODA подчеркивает важность скорости и гибкости в принятии решений и принятии мер. Цель состоит в том, чтобы завершить цикл как можно быстрее и эффективнее, чтобы вы могли адаптироваться к меняющимся обстоятельствам и использовать возможности по мере их возникновения.
Обратите внимание, что цикл OODA и цикл SMSA CJADC2 имеют сходство в принятии решений. Оба делают акцент на быстрой обработке информации, адаптации и действиях. Наблюдение и ориентация OODA отражают «чувство» CJADC2, фокусируясь на сборе и понимании разведданных. Решения и действия OODA согласуются с принципами CJADC2 «осмысление» и «действие», где решения принимаются на основе проанализированных данных и выполняются с высокой гибкостью. И те, и другие отдают приоритет гибкости и адаптивности в принятии решений, чтобы сохранить превосходство в спорных областях.
Роль ИИ в цикле OODA
На этапе наблюдения датчики с ИИ, дроны, спутники и системы наблюдения собирают огромные объемы данных с поля боя. Эти потоки данных предоставляют командирам ситуационную осведомленность в режиме реального времени, предоставляя информацию о передвижениях противника, условиях местности и позициях дружественных сил. Алгоритмы ИИ обрабатывают эти данные, отфильтровывая шум, выявляя соответствующие закономерности и обнаруживая потенциальные угрозы, что позволяет командирам быстро оценивать развивающуюся ситуацию.
На этапе ориентации обработка ИИ облегчает анализ и синтез собранной информации. Алгоритмы машинного обучения анализируют исторические данные, выявляют тенденции и генерируют прогнозные модели для прогнозирования намерений и поведения противника. Используя аналитику на основе ИИ, командиры получают более глубокое понимание оперативной обстановки, что позволяет им формулировать эффективные стратегии и планы действий для достижения целей миссии.
На этапе принятия решения алгоритмы ИИ обеспечивают поддержку принятия решений, оценивая несколько вариантов действий и оценивая их потенциальные результаты. Моделируя различные сценарии и проводя вероятностную оценку рисков, ИИ помогает командирам принимать обоснованные решения в условиях неопределенности. Эти инструменты поддержки принятия решений позволяют командирам взвешивать риски и выгоды различных вариантов и выбирать наиболее оптимальный курс действий для достижения тактических или стратегических целей.
На этапе действия обработка ИИ облегчает выполнение выбранных планов действий, повышая скорость, точность и координацию военных операций. Автономные системы, управляемые алгоритмами ИИ, выполняют такие задачи, как целеуказание, логистика и маневрирование с минимальным вмешательством человека. Автоматизируя рутинные задачи и оптимизируя распределение ресурсов, системы, управляемые ИИ, позволяют вооруженным силам поддерживать оперативный темп и использовать мимолетные возможности на поле боя.
Периферийная обработка для получения более полезных данных
Одно из наиболее важных соображений заключается в том, что решения должны приниматься на периферии, а не удаленно из командного центра. Перемещение на периферию значительно сокращает задержку и повышает гибкость в быстро меняющейся среде, тем самым делая бойца более гибким и готовым ко всему.
Наличие ИИ на периферии (AIAE) позволяет развертывать алгоритмы ИИ на устройствах, физически близких к источнику данных. Подключение датчиков напрямую через AIAE значительно снижает задержку между шагами ориентации на наблюдение в цикле OODA, как отмечалось выше, например.
Обработка AIAE и принятие решений также заметно сокращает задержку между шагами orient-decision, так как нет необходимости передавать большие объемы данных для дополнительных шагов принятия решения во внешний центр, а затем ждать отправки решения обратно. Отправка команды "ACT" с помощью инфраструктуры AIAE уменьшит задержку для шагов "решать-действовать" по тем же причинам.
Использование ИИ в военных операциях
Графические процессоры (GPU) предназначены для параллельной обработки больших объемов данных и широко используются для приложений искусственного интеллекта. Благодаря технологическому прогрессу на рынке появляются высокопроизводительные компьютеры малого форм-фактора с комбинацией графических процессоров общего назначения (GPGPU) и центральных процессоров (CPU), которые можно использовать для приложений AIAE.
Используя параллельную вычислительную мощность графических процессоров, GPGPU могут ускорить работу широкого спектра приложений ИИ.
Что можно использовать?
Семейство модулей NVIDIA Jetson сочетает в себе GPGPU с поддержкой ИИ и многоядерные процессоры для создания тесно связанного, высокопроизводительного суперкомпьютера с низким энергопотреблением, который может поддерживать возможности обработки данных ИИ и прикладное программное обеспечение для принятия решений. Семейство продуктов NVIDIA Jetson включает в себя несколько модулей с различными форм-факторами, производительностью и максимальной мощностью.
Модуль NVIDIA Jetson Xavier NX обеспечивает производительность в шесть триллионов операций с плавающей запятой в секунду (TFLOPS) с максимальной мощностью 15 Вт, что сопоставимо с производительностью рабочей станции мощностью в несколько сотен ватт с процессором и видеокартой.
Такая вычислительная архитектура может обрабатывать и применять алгоритмы ИИ для более чем 20 видеовходов высокой четкости с разрешением 1040p и частотой 30 кадров в секунду. Он обладает достаточной пропускной способностью для запуска приложений ИИ, обслуживающих несколько камер высокой четкости в системе.
С точки зрения размера, веса и мощности (SWaP) и производительности, защищенный модуль NVIDIA Jetson Xavier NX подходит для использования в приложениях AIAE, поскольку устройства могут иметь размеры всего 10 см на 6 см, весить всего 0,6 кг и обеспечивать мощность всего 15 Вт.
Для более требовательных требований к производительности можно использовать более крупные и мощные защищенные решения на основе высокопроизводительных модулей NVIDIA Jetson. Эти типы защищенных устройств на базе GPGPU также могут поддерживать стандартные отраслевые интерфейсы, включая Ethernet (1 GbE и/или 10 GbE), шину CAN, последовательные порты и т. д.). Интерфейс Ethernet может использоваться в качестве канала связи с другими «умными» блоками и компьютерами миссий в системах. Его также можно использовать для взаимодействия с внешним оборудованием через преобразователи беспроводной связи. Если требуется связь Ethernet с низкой задержкой, можно использовать чувствительную ко времени сеть (TSN) или Ethernet с запуском по времени (TTE).
Использование сети Ethernet для внутренней связи позволяет пользователю реализовать несколько уровней резервирования, от физических кабелей до маршрутизаторов и пакетов. Реализация протокола распределения времени IEEE 1588 по сети позволяет синхронизировать все элементы сети с одним источником времени.
Помимо высокоскоростной обработки данных датчиками, блоки GPGPU могут использоваться для обработки данных, поступающих от низкоскоростных датчиков – аналоговых входов/выходов, дискретных вводов/выводов, последовательных портов и т.д. Объединение этих функций в одном блоке AIAE может помочь устранить дополнительные блоки электроники и связанные с ними жгуты проводов в автомобиле, что еще больше уменьшит SWaP электронного оборудования.
ИИ — это преимущество в превосходстве в принятии решений
Для Министерства обороны США реализация концепции CJADC2 начинается с требования, чтобы промышленность могла подключать все существующие датчики, которые могут поддерживать осведомленность о поле боя, а также делать данные датчиков доступными для любого потенциального пользователя на любом уровне эксплуатации. Эта конструкция обмена данными может создать защищенную осведомленность о боевом пространстве, в которой действия в одной части единого, интегрированного, глобального боевого пространства могут быть поняты и использованы для принятия решений в других областях.
Интеграция обработки ИИ в рамках цикла OODA произвела революцию в принятии военных решений, предоставив командирам беспрецедентные возможности для адаптации, реагирования и победы в сложных и оспариваемых условиях.
Используя технологии, основанные на ИИ, вооруженные силы США повысили свою способность поддерживать конкурентное преимущество на современном поле боя, обеспечивая превосходство в эпоху, определяемую быстрыми технологическими инновациями и стратегической конкуренцией.
VII. Breaking Defense (13.06.2024) отмечает, что согласно отчету аналитической компании Govini, Китай опережает Соединенные Штаты в развитии ИИ.
В отчете отмечается, что усиление Китая в сфере ИИ серьезно затруднит выход вооруженных сил США победителем в случае столкновения с Народно-освободительной армией (НОАК).
Ежегодная система показателей национальной безопасности Govini предлагает оценку важнейших технологий, программ и оборонной промышленной базы США.
Система показателей, созданная на базе флагманской платформы Govini Ark, использует уникальные наборы данных, возможности машинного обучения и адаптированные рабочие процессы для сбора стратегической информации.
В «Оценочной карте национальной безопасности 2024 года» представлен углубленный анализ 15 важнейших технологических областей, необходимых для обороны и национальной безопасности США.
Отчет тщательно анализирует тенденции государственных расходов, инновации частного сектора и динамику цепочки поставок, выявляя области инвестиций и выявляя уязвимости и риски.
Цель этого отчета – предоставить детальное понимание процесса оборонных закупок, раскрывая сложное взаимодействие между правительственными учреждениями, подрядчиками и поставщиками.
Генеральный директор Govini Тара Мерфи Догерти подробно остановилась на отчете во время брифинга в июне 2024 года, согласно публикации Breaking Defense.
Догерти говорит, что Министерство обороны США по-прежнему рассматривает ИИ как «проект исследований и разработок».
«Хотя в области исследований и разработок ИИ еще многое предстоит сделать, Министерству обороны давно пора перестать относиться к ИИ так, будто это просто научный проект», — сказала Догерти на брифинге.
Догерти говорит о результате, если разразится конфликт между США и Китаем: «Если вы добавите преимущество ИИ, которого нет у Соединенных Штатов, это потенциально сделает войну невозможной для победы для США».
Догерти далее отметила, что в случае возникновения напряженности в отношениях между двумя странами Китай может навредить США, ворвавшись в их энергетическую сеть и разрушив ее изнутри.
Однако далее она заявила, что, хотя Министерство обороны США не движется достаточно быстро для разработки технологий искусственного интеллекта, у него есть для этого возможности.
Она также посоветовала США идти вперед и немедленно предпринять правильные шаги для улучшения своих возможностей.
«Я считаю, что у департамента есть отличная основа для управления этим и обеспечения надлежащего использования ИИ в военном контексте», — отметила Догерти.
Согласно данным Breaking Defense, в ежегодной системе показателей национальной безопасности упоминается, что Китай имеет больше патентов, чем США, в 13 важнейших технологических областях. Это еще одно доказательство того, как КНР за последние годы продвинулась вперед в развитии ИИ.
Догерти посоветовала Министерству обороны США провести расследование и найти ответы на вопрос, почему оно отстает в области патентов, связанных с ИИ, что является показателем инноваций, а затем добиться успехов в этом отношении.
В отчете за 2024 год также поднимается проблема нехватки комплектующих, от которой страдает оборона США. В нем говорится, что несколько ключевых программ Министерства обороны США могут оказаться под угрозой кризиса в случае возникновения конфликта.
Это происходит главным образом из-за того, что программы полагаются только на одного поставщика запчастей, а детали имеют длительный срок замены.
VII. Ури Инспектор в статье в The National Interest «Как ИИ меняет представление о войне на Ближнем Востоке» (13.06.2024) пишет:
«Поскольку в секторе Газа бушует война, ее визуальное повествование формируется сценами с танками и руинами, знакомыми публике со времен глобальной войны с терроризмом. Однако при более внимательном рассмотрении обнаруживается футуристическое боевое пространство, определяемое как алгоритмами и робототехникой, так и перестрелками и воздушными ударами.
Миниатюрные дроны-самоубийцы Firefly ЦАХАЛа автономно перемещаются по улицам Газы. Бронетранспортеры Namer и Eitan пересекают завалы, используя системы ИИ Edge 360 для алгоритмического обнаружения угроз. Оснащенные «Трофи», первой в мире «системой активной защиты», израильские танки «Меркава» запускают автоматические снаряды, которые перехватывают ракеты и реактивные гранатометы ХАМАС.
Дроны с ИИ пытаются нанести на карту обширную сеть туннелей ХАМАСа, в то время как роботы IRIS и «рободожки» Vision 60 маневрируют через нее, применяя специализированные датчики и камеры, которые обнаруживают объекты и людей. По словам создателей стартапа, пехота ЦАХАЛа вооружена винтовками, усовершенствованными SMASH — оптическим прицелом с поддержкой ИИ, который превращает каждого солдата в снайпера. Тем временем миниатюрный полуавтономный робот по имени Ягуар патрулирует пограничный забор Газы.
Над всем этим находится система ИИ «Fire Weaver», которая соединяет датчики сбора разведывательной информации с оружием в полевых условиях. Системы «Евангелие» и «Лаванда» используют машинное обучение для автоматической генерации целевых рекомендаций, просеивая огромные объемы данных из разросшихся сетей наблюдения. В то время как до 2020 года ЦАХАЛу требовалось десять дней, чтобы обнаружить и утвердить десять целей, автономные системы позволяют поразить в десять раз больше целей за этот период времени.
Геоэкономика военного ИИ
Многие военные аналитики объявили о следующей «революции в военном деле», в которой технологические инновации, в частности ИИ, радикально изменят ведение войны, изменят баланс сил и создадут новые угрозы безопасности. Интеграция технологических систем, способных имитировать и затмевать человеческий интеллект, в военные учреждения изменит процесс принятия решений и стратегию. Аналогичным образом, разработка смертоносных автономных систем вооружения (LAWS), которые выбирают цели или даже атакуют без участия человека, создаст серьезные проблемы как для расчетов по контролю над вооружениями, так и для международного права.
В то время как Вашингтон и Пекин могут оказаться в центре борьбы за технологическое превосходство, Ближний Восток становится инкубатором военной революции. В частности, предприятия и правительства ОАЭ, Саудовской Аравии и Израиля вложили значительные средства в развитие автономных военных технологий. Обильные бюджеты на НИОКР, развитая инфраструктура, стратегические связи и доступ к квалифицированной рабочей силе помогли трем сильно милитаризованным странам получить преимущество в новом ландшафте защиты с помощью ИИ.
EDGE Group, государственный производитель оружия в Эмиратах, фокусируется на «автономном, интеллектуальном оружии и радиоэлектронной борьбе» и на конференции IDEC 2023 года представила одиннадцать новых автономных беспилотных летательных аппаратов, составляющих большую часть из четырнадцати новых систем. EDGE также профинансировала разработку дрона ADASI «Garmousha», первого местного дрона в ОАЭ, работающего с искусственным интеллектом. В Саудовской Аравии Город науки и технологий имени короля Абдулазиза может похвастаться обширными программами по разработке передовых беспилотных летательных аппаратов и робототехники. В 2020 году государственная компания Saudi Arabian Military Industries (SAMI) приобрела компанию Advanced Electronics Company (AEC) в рамках крупнейшей в истории королевства сделки в оборонной промышленности, что свидетельствует о том, что она уделяет приоритетное внимание высокотехнологичному военному потенциалу.
Сосредоточение внимания на местном оборонном производстве является ключевым элементом более широких усилий по экономическому развитию двух монархий Персидского залива, направленных на замену зависимости от углеводородов самодостаточностью, основанной на ИИ, как подчеркивается в «Видении Саудовской Аравии 2030» и «ОАЭ 2031». ИИ рассматривается как необходимый элемент цифровой трансформации во многих секторах по всей Саудовской Аравии, включая здравоохранение, государственные услуги, энергетику, водоснабжение, производство и транспорт. Уникально то, что ОАЭ назначили первого в мире министра по вопросам ИИ, продемонстрировав его важность для управления Эмиратами. Столкнувшись с проблемами человеческого капитала и скудностью неэнергетических промышленных баз, нефтяные государства Персидского залива надеются использовать ИИ в качестве «технологии скачка» в поисках устойчивого экономического роста, поскольку мир сталкивается с энергетическим переходом. По оценкам, к 2030 году расходы на ИИ на Ближнем Востоке потенциально могут достичь 320 миллиардов долларов, причем наиболее известными инвесторами станут Эр-Рияд и Абу-Даби. Почти 40 процентов компаний в ОАЭ и 45 процентов компаний в Саудовской Аравии готовятся к автоматизированной рабочей среде с использованием ИИ.
За последние тридцать лет бурно развивающаяся коммерческая высокотехнологичная промышленность Израиля способствовала росту специализированной оборонной промышленности, чему способствовал уровень государственных инвестиций в гражданские НИОКР в размере 4 процентов ВВП, один из самых высоких в мире. Оборонные инновации Израиля являются продуктом интенсивного взаимодействия военного и гражданского секторов. Его начинающая рабочая сила состоит в основном из ветеранов технологических подразделений ЦАХАЛа, а государственные оборонные предприятия, такие как Rafael и IAI, финансируют университетские исследовательские бюджеты. Благодаря рекордному объему экспорта в 12,6 миллиарда долларов в 2022 году, что на 50 процентов больше, чем за предыдущие три года, высокотехнологичная оборонная промышленность Израиля играет жизненно важную роль в его экономике в целом».
Меняющийся расчет безопасности
«Военизированный ИИ может быть использован в качестве «суррогата» в войне, предоставляя малым государствам «мультипликатор силы» против более густонаселенных соперников с количественными преимуществами в обычных вооружениях и человеческом капитале. Учитывая ограниченный размер вооруженных сил ОАЭ и Саудовской Аравии, а также зависимость Израиля от мобилизации резервов, интеграция ИИ в вооруженные силы теоретически гарантирует высокую эффективность при одновременном снижении экономических и человеческих затрат.
Меняющийся характер угроз региональной безопасности требует быстрых технологических инноваций. Масштабное использование дронов негосударственными субъектами, такими как поддерживаемые Ираном хуситы и «Хезболла», создало беспрецедентные риски для безопасности. В 2019 году нефтеперерабатывающие предприятия Saudi Aramco в Абкайке и Хурайсе подверглись атаке иранских дронов, которым удалось уклониться от обычных радаров. Это стало для Эр-Рияда решающим стимулом для разработки собственных высокотехнологичных средств борьбы с дронами. В январе 2022 года атаки беспилотников хуситов были направлены против трех эмиратских нефтяных танкеров и пристройки к аэропорту, что подчеркнуло опасность асимметричной войны для экономической безопасности ОАЭ и международной репутации стабильности. Аналогичным образом, ХАМАС с переменным успехом применяет против Израиля как автономные подводные дроны, так и беспилотные летательные аппараты.
В стратегической среде, в которой государства больше не обладают монополией на передовые технологии и оружие дальнего действия, скорость и эффективность оборонных возможностей должны быть увеличены для решения новых задач.
Как видно из опыта Саудовской Аравии, обычные радиолокационные системы с трудом обнаруживают дроны в режиме реального времени, часто не отличая БПЛА от птиц или мусора. Многие из дронов хуситов, нацеленных на Абу-Даби, летали на малых высотах, чтобы избежать обнаружения построенными в США перехватчиками Terminal High Altitude Area Defense и Patriot, построенными в ОАЭ. Системы ИИ, использующие передовые датчики, камеры и акустику, обеспечивают более точный и эффективный ответ. Алгоритмы машинного обучения могут распознавать отдельные признаки дронов. Более того, сегодняшние противники представляют собой децентрализованные, чувствительные ко времени цели, требующие немедленного вмешательства, которое могут обеспечить только вычислительные мощности.
Стратеги Израиля и Персидского залива знают о все более изощренной милитаризации Ирана. В январе 2021 года Тегеран поиграл мускулами, проведя учения «Великий пророк 15», в ходе которых были продемонстрированы первые в стране автономные дроны-смертники. Считается, что «Организация джихада сухопутных войск Исламской Республики по исследованию и самодостаточности» играет центральную роль в разработке систем вооружения с поддержкой ИИ, о чем свидетельствует недавняя выставка вооруженного боевого робота Heidar-1. Бригадный генерал Мохаммад Хасан Нами заявил, что к 2024 году Иран будет обладать полностью автономными системами на поле боя.
Поскольку преобладание беспилотников хуситов, «Хезболлы» и ХАМАСа можно объяснить иранской контрабандой и передачей технологий, ось Израиль-Персидский залив столкнулась с устрашающей перспективой появления у своих ворот вооруженных ИИ негосударственных ополченцев».
Новые технологии, новые альянсы
В 2021 году EDGE и израильская IAI договорились о совместной разработке полностью автономной системы борьбы с дронами . На первой на Ближнем Востоке конференции по дронам в Абу-Даби в 2022 году ОАЭ предложили создать «региональный щит» для перехвата дронов. Примечательно, что именно министр ИИ Эмиратов Омар бин Султан Аль-Олама обратился к толпе, предупредив , что «дронные системы стали дешевле и доступнее, чем когда-либо прежде… и эта доступность позволяет этим системам попасть в руки террористических группировок». …» Таким образом, новая парадигма обороны, основанная на ИИ, укрепляет связи между бывшими противниками, поскольку традиционные политические антагонизмы рушатся под тяжестью кризисов национальной безопасности.
Действительно, вскоре после подписания Авраамовских соглашений (АА) Израиль и ОАЭ создали совместное предприятие по коммерческому ИИ и технологиям больших данных. Долгосрочные оборонные последствия сотрудничества, первоначально предназначенного для борьбы с COVID-19, очевидны со стороны участвующих сторон: пионера ИИ Эмиратов Group 42 (G42) и израильских государственных оборонных гигантов IAI и Rafael (последний является производителем Iron ЗРК «Купол» и «Праща Давида»). В сентябре 2022 года Израиль согласился продать Объединенным Арабским Эмиратам передовую систему ПВО вместе с мобильными перехватчиками SPYDER производства Rafael, чтобы усилить их защиту от дронов. Рафаэль и еще одна израильская компания по производству вооружений, Elbit Systems, в 2021 году основали компании, зарегистрированные в ОАЭ, с явной целью долгосрочного сотрудничества с военными Эмиратов. С момента подписания Соглашения об ассоциации Израиль заключил соглашения о поставках оружия с государствами Ближнего Востока на сумму 3 миллиарда долларов, при этом почти четверть его оборонного экспорта в 2022 году будет идти региональным странам, подписавшим соглашение.
Будучи крупнейшим поставщиком оружия и гарантом безопасности в регионе, Соединенные Штаты выразили обеспокоенность по поводу увеличения военного присутствия Китая в Персидском заливе, особенно его продажи и производства автономного оружия и передовой инфраструктуры 5G. В 2017 году Китай открыл в Саудовской Аравии завод по производству беспилотников CH-4, а 300 дронов Wing Loong II были проданы королевству и задействованы в войне в Йемене. Китай даже предложил продать Эр-Рияду Blowfish A3, беспилотный вертолет с ИИ и пулеметом. Между тем, в 25 - летнем соглашении Пекина с Ираном особое внимание уделяется совместному производству оружия с использованием ИИ, что сигнализирует о явном намерении уравновесить влияние США на Ближнем Востоке.
Во времена администрации Трампа, после того как Соединенные Штаты отказались продать ОАЭ свой новейший беспилотник с вооружением, Абу-Даби обратился к Китаю с просьбой закупить 5 беспилотников Wing Loong II. Совсем недавно, в августе 2023 года, Абу-Даби объявил о своих первых совместных учениях с Народно-освободительной армией Китая. В 2022 году Саудовская Аравия провела первый саммит Китай-арабские государства, на котором было обещано расширить « технонаучное » сотрудничество с Китаем.
Растущая привлекательность Пекина как альтернативного поставщика вооружений и технологий для стран Ближнего Востока обусловлена невмешательством КНР в их внутреннюю политику и предложением более дешевого высокотехнологичного оружия. Даже Израиль стремился создать совместные китайско-израильские предприятия по производству дронов Phalcon и Harpy.
В ответ на китайские угрозы господству США в регионе в вооружениях администрация Байдена предложила ОАЭ расширенную сделку по оружию на сумму 2,2 миллиарда долларов, добавив к ней современное вооружение и системы противовоздушной обороны. Однако сделка остается в подвешенном состоянии. Продолжающееся удержание Вашингтоном самолетов F-35 в ОАЭ связано, прежде всего, с присутствием Китая в Эмиратах, поскольку Министерство обороны США обеспокоено тем, что запатентованные возможности малозаметности и сенсорные технологии самолета окажутся в руках Пекина».
Что дальше?
Скептикам можно простить то, что они отвергли так называемую военную революцию как научную фантастику. Действительно, 7 октября 2023 года боевикам ХАМАС, вооруженным архаичным советским и китайским огнестрельным оружием, а также мотоциклами, бульдозерами и парапланами, удалось прорвать одну из самых технологически сложных военных границ в мире».
«Конечно, по мере того, как ИИ медленно меняет все больше аспектов жизни, поле битвы завтрашнего дня появляется постепенно. Тем не менее, эта важнейшая технология все больше определяет экономическую политику, оборонную стратегию, торговлю, дипломатию и соперничество сверхдержав в одном из самых милитаризованных регионов мира. Государства Персидского залива надеются на ИИ и растущую местную высокотехнологичную оборонную промышленность для обеспечения постнефтяного динамизма. В то же время израильская экономика и экспортная база опираются на синергию военных и коммерческих высоких технологий.
Атаки беспилотников со стороны негосударственных воюющих сторон и действия Ирана меняют традиционные представления об угрозах, малые государства региона охотятся за увеличением сил и возможностями высокоточной обороны.
Все более многополярный Ближний Восток стал ключевым рубежом в борьбе сверхдержав за технологическое превосходство».
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_na_vojne_chast_ii
24.06.2024 ИИ на войне. Часть I
Точно так же, как гражданский мир становится свидетелем быстрого прогресса в развитии и распространении искусственного интеллекта (ИИ), военный мир также должен готовиться к натиску инноваций. В той же мере, в какой он меняет характер войны, он также может оказаться дестабилизирующей.
The Economist в номере за 22 июня 2024 года вынес на обложку рисунок «Война и ИИ».
I. В статье «Искусственный интеллект изменит характер войны» эксперты журнала пишут:
«Сегодняшние стремительные перемены имеют несколько причин.
Во-первых, это горнило самой войны, особенно на Украине. Небольшие, недорогие чипы регулярно направляют российские и украинские беспилотники к целям, расширяя технологию, которая когда-то была доступна только в ракетах сверхдержавы.
Во-вторых, это недавний экспоненциальный прогресс ИИ, позволяющий распознавать объекты и решать задачи более высокого порядка.
В-третьих, это соперничество между Америкой и Китаем, в котором обе стороны видят в ИИ ключ к военному превосходству.
Результаты наиболее заметны в развитии интеллектуальных машин для убийства. Воздушные и морские беспилотники были жизненно важны для обеих сторон на Украине для обнаружения и атаки целей. Роль искусственного интеллекта заключается в том, чтобы решить проблему глушения, потому что он позволяет дрону наводиться на цели, даже если сигналы GPS или связь с пилотом были прерваны. Разрыв связи между пилотом и самолетом вскоре позволит армиям развернуть гораздо большее количество недорогих боеприпасов. В конце концов, самонаводящиеся рои будут созданы для того, чтобы разрушить оборону.
Но самое заметное в военном ИИ — это не самое важное. Эта технология также революционизирует командование и управление, которые военные офицеры используют для организации войн.
На линии фронта дроны олицетворяют собой как раз последнее и самое драматичное звено в цепи убийства, серию шагов, начинающихся с поиска цели и заканчивающихся атакой. Более глубокое значение ИИ заключается в том, что он может сделать до того, как дрон нанесет удар. Поскольку он сортирует и обрабатывает данные со сверхчеловеческой скоростью, он может вытащить каждый танк из тысячи спутниковых снимков или интерпретировать свет, тепло, звук и радиоволны, чтобы отличить ложные цели от настоящих.
Вдали от линии фронта он может решать гораздо более масштабные задачи, чем те, с которыми сталкивается один беспилотник. Сегодня это означает простые задачи, такие как определение того, какое оружие лучше всего подходит для уничтожения угрозы. Со временем «системы поддержки принятия решений» смогут быстро и на обширной территории осознать непостижимую сложность войны — возможно, на всем поле боя.
Последствия этого только сейчас становятся очевидными. Системы искусственного интеллекта в сочетании с автономными роботами на суше, на море и в воздухе, вероятно, будут находить и уничтожать цели с беспрецедентной скоростью и в огромных масштабах.
Скорость такой войны изменит баланс между солдатом и программным обеспечением. Сегодня армии держат человека «в курсе», одобряя каждое летальное решение. Поскольку поиск и нанесение ударов по целям сжаты минутами или секундами, человек может просто «сидеть в петле», как часть команды человек-машина. Люди будут следить за системой, не вмешиваясь в каждое действие.
Парадокс заключается в том, что, несмотря на то, что ИИ дает более четкое представление о поле боя, война рискует стать более непрозрачной для людей, которые в ней участвуют. Времени на то, чтобы остановиться и подумать, будет меньше. По мере того, как модели выносят все более оракуловские суждения, их результаты будет становиться все труднее тщательно изучать, не уступая врагу смертельного преимущества. Армии будут опасаться, что если они не дадут своим советникам ИИ более длинный поводок, они будут побеждены противником, который это сделает. Более быстрые бои и меньшее количество пауз затруднят переговоры о перемирии или остановку эскалации. Это может сыграть на руку обороняющимся, которые могут затаиться, пока атакующие выходят из укрытия при продвижении. Или же это может подтолкнуть атакующих к упреждающему удару с применением массированной силы, чтобы разрушить датчики и сети, от которых будут зависеть армии с поддержкой ИИ.
Масштабы войн, основанных на ИИ, означают, что массовый и промышленный вес, вероятно, станет еще более важным, чем сегодня. Вы можете подумать, что новые технологии позволят армиям стать более компактными. Но если программное обеспечение сможет распознавать десятки тысяч целей, армиям понадобятся десятки тысяч единиц оружия, чтобы нанести по ним удар. А если обороняющийся будет иметь преимущество, атакующим потребуется больше оружия для прорыва.
Это не единственная причина, по которой война ИИ благоприятствует большим странам. Беспилотные летательные аппараты могут стать дешевле, но цифровые системы, которые объединяют поле боя, будут дьявольски дорогими. Создание армий с ИИ потребует огромных инвестиций в облачные серверы, способные обрабатывать секретные данные. Армии, флоты и военно-воздушные силы, которые сегодня существуют в своих собственных хранилищах данных, должны быть интегрированы. Обучение моделей потребует доступа к огромному массиву данных».
Какой большой стране ИИ отдает предпочтение больше всего? Когда-то считалось, что у Китая есть преимущество, благодаря его пулу данных, контролю над частным бизнесом и более мягким этическим ограничениям. Тем не менее, по мнению экспертов The Economist, «сейчас Америка, похоже, находится впереди в передовых моделях, которые могут сформировать следующее поколение военного ИИ. И идеология имеет значение: неясно, смогут ли армии авторитарных государств, которые ценят централизованный контроль, воспользоваться преимуществами технологии, которая выводит интеллект и проницательность на самый низкий тактический уровень».
«Если, к сожалению, разразится первая война с использованием ИИ, международное право, скорее всего, будет вытеснено на обочину. Тем больше поводов задуматься сегодня о том, как ограничить разрушения. Например, Китаю следует прислушаться к призыву Америки исключить контроль ИИ над ядерным оружием. И как только начнется война, горячие линии между людьми станут более важными, чем когда-либо. Системы ИИ, призванные максимизировать военное преимущество, должны быть закодированы с помощью ценностей и ограничений, которые человеческие командиры воспринимают как должное. Они включают в себя неявную ценность человеческой жизни (сколько гражданских лиц допустимо убить при преследовании важной цели?) и избегание определенных дестабилизирующих ударов, таких как по ядерным спутникам раннего предупреждения.
Неопределенность огромна. Единственное, в чем можно быть уверенным, так это в том, что изменения, управляемые искусственным интеллектом, приближаются.
Скорее всего, победят те армии, которые первыми и наиболее эффективными овладеют технологическими достижениями. Все остальные, скорее всего, станут жертвами».
II. В другой статье в том же номере The Economist «Как ИИ меняет войну. Генеральный штаб с искусственным интеллектом может быть важнее, чем роботы-убийцы» отмечается:
«В конце 2021 года Королевский военно-морской флот Великобритании обратился к Microsoft и Amazon Web Services, паре американских технологических гигантов, с вопросом: есть ли лучший способ вести войну? В частности, могут ли они найти более эффективный способ координации между гипотетической ударной группой коммандос в Карибском море и ракетными системами фрегата? Технологические фирмы сотрудничали с BAE Systems, гигантским производителем оружия, и Anduril, небольшой компанией, а также с другими военными подрядчиками. В течение 12 недель — непостижимо быстро в мире оборонных закупок — консорциум собрался в британском графстве Сомерсет для демонстрации того, что было названо StormCloud.
Морские пехотинцы на земле, беспилотные летательные аппараты в воздухе и многие другие датчики были соединены через «ячеистую» сеть передовых радиостанций, которые позволяли каждому из них беспрепятственно видеть, что происходит в другом месте — установка, которая уже позволяла морским пехотинцам наматывать круги вокруг гораздо более крупных сил на предыдущих учениях. Данные, которые они собирали, обрабатывались как на «периферии» сети, на борту небольших, прочных компьютеров, прикрепленных к машинам коммандос с помощью банджи-кабелей, так и на удаленных облачных серверах, куда они были отправлены со спутника. Командно-контрольное программное обеспечение осуществляло мониторинг заданного района, решало, какие беспилотники куда должны лететь, идентифицировало объекты на земле и предлагало, каким оружием ударить по какой цели.
Результаты оказались впечатляющими. Было очевидно, что StormCloud был «самой продвинутой цепочкой убийств в мире», говорит офицер, участвовавший в эксперименте, имея в виду сеть датчиков (таких как дроны) и оружия (например, ракет), связанных вместе с цифровыми сетями и программным обеспечением, чтобы понять данные, передаваемые туда и обратно. Еще два года назад, по его словам, он был «на много миль впереди» с точки зрения скорости и надежности офицеров-людей в обычном штабе.
Инструменты и оружие с поддержкой ИИ используются не только на учениях. Они также используются во все более широких масштабах в таких местах, как Газа и Украина. Вооруженные силы боятся, что их оставят позади их противники. Расходы быстро растут (см. график 1). Но юристы и специалисты по этике опасаются, что ИИ сделает войну более быстрой, непрозрачной и менее гуманной. Разрыв между двумя группами становится все большим, даже несмотря на то, что перспектива войны между великими державами становится также все большим.
Единого определения ИИ не существует. Вещи, которые когда-то заслуживали этого термина, такие как навигация по местности ракет «Томагавк» в 1980-х годах или способность ракет Brimstone обнаруживать танки в начале 2000-х годов, теперь рассматриваются как повседневное программное обеспечение. И многие передовые возможности, описываемые как ИИ, не включают в себя «глубокое обучение» и большие языковые модели, лежащие в основе таких сервисов, как Chatgpt. Но в разных обличьях ИИ проникает во все аспекты войны».
«Это начинается со скучных вещей: техническое обслуживание, логистика, персонал и другие задачи, необходимые для того, чтобы армии были укомплектованы, накормлены и заправлены. Недавнее исследование, проведенное аналитическим центром Rand Corporation, показало, что ИИ, предсказывая, когда потребуется техническое обслуживание боевых самолетов А-10 c, может сэкономить ВВС США 25 миллионов долларов в месяц, избегая поломок и затоваривания запчастей (хотя ИИ хуже справляется с деталями, которые редко выходят из строя).
Еще одно перспективное направление – логистика. Например, армия США использует алгоритмы, чтобы предсказать, когда украинским гаубицам понадобятся новые стволы. ИИ также начинает просачиваться в HR. Армия использует модель, обученную на 140 000 личных дел, чтобы помочь набрать солдат для продвижения по службе.
Другая крайность – это острый конец вещей. И Россия, и Украина спешно разрабатывают программное обеспечение, позволяющее беспилотникам самостоятельно перемещаться к цели и наводиться на нее, даже если помехи нарушают связь между пилотом и беспилотником. Обе стороны обычно используют для этой цели небольшие чипы, которые могут стоить всего 100 долларов. На видео ударов беспилотников на Украине все чаще видны «ограничивающие прямоугольники», появляющиеся вокруг объектов, что говорит о том, что беспилотник идентифицирует цель и наводится на нее. Технология остается незрелой, а алгоритмы наведения сталкиваются со многими из тех же проблем, с которыми сталкиваются беспилотные автомобили, такими как загроможденная среда и затененные объекты, а также с некоторыми уникальными для поля боя, такими как дым и ложные цели. Но она быстро улучшается.
Между ИИ в серверной части и ИИ внутри боеприпасов лежит обширное царство инноваций, экспериментов и технологических достижений. Беспилотные летательные аппараты сами по себе лишь разрушают, а не трансформируют войну, утверждают Клинт Хинот, генерал американских ВВС в отставке, и Мик Райан, австралийский генерал в отставке. Но в сочетании с «цифровыми системами командования и контроля» (например, StormCloud) и «ячеистыми сетями новой эры гражданских и военных датчиков», результатом, по их словам, является «преобразующая троица», которая позволяет солдатам на передовой видеть и действовать в режиме реального времени на основе информации, которая когда-то была бы ограничена удаленным штабом. Обязательным условием для этого является ИИ.
Начните с сетки датчиков. Представьте себе данные с беспилотников, спутников, социальных сетей и других источников, циркулирующих по военной сети. Слишком много приходится обрабатывать вручную. Тамир Хайман, генерал, возглавлявший израильскую военную разведку до 2021 года, указывает на два больших прорыва. «Фундаментальный скачок», по его словам, восемь или девять лет назад произошел в программном обеспечении для преобразования речи в текст, которое позволяло искать ключевые слова при перехвате голоса. Другая была связана с компьютерным зрением. Проект Spotter в министерстве обороны Великобритании уже использует нейронные сети для «автоматического обнаружения и идентификации объектов» на спутниковых снимках, что позволяет «автоматически отслеживать места 24 часа в сутки 7 дней в неделю на предмет изменений активности». По состоянию на февраль 2024 года частная компания пометила 25 000 объектов для обучения модели.
Британский генерал Том Копинджер-Саймс заявил в Палате лордов в 2023 году, что такие системы «все еще находятся на верхних границах исследований и разработок, а не в полномасштабном развертывании», хотя он указал на использование коммерческих инструментов для идентификации, например, скоплений гражданских лиц во время эвакуации Великобританией своих граждан из Судана в начале 2023 года. Америка, кажется, продвинулась дальше. В 2017 году компания запустила проект Maven, чтобы справиться с потоком фотографий и видео, снятых беспилотниками в Афганистане и Ираке.
Maven «уже производит большие объемы систем компьютерного зрения для нужд военных», отметил в мае директор Национального агентства геопространственной разведки, которое руководит проектом. Заявленная цель состоит в том, чтобы Maven «соответствовал или превосходил производительность обнаружения, классификации и отслеживания человека». Его пока нет — он борется со сложными случаями, такими как частично скрытое оружие».
«ИИ может обрабатывать не только телефонные звонки или фотографии. В марте 2024 года Королевский военно-морской флот объявил, что его подразделение по поиску мин завершило годичные эксперименты в Персидском заливе с использованием небольшого беспилотного катера Harrier, чья буксируемая гидроакустическая система может искать мины на морском дне и предупреждать другие корабли или подразделения на суше. А Майкл Горовиц, представитель Пентагона, недавно сообщил веб-сайту Defense News, что Америка, Австралия и Великобритания в рамках своего пакта AUKUS разработали «трехсторонний алгоритм», который может быть использован для обработки акустических данных, собранных гидроакустическими буями, сбрасываемыми с самолетов P-8, охотящихся за подводными лодками.
В большинстве этих случаев ИИ идентифицирует сигнал среди шума или объект среди беспорядка: грузовик это или танк? Якорь или мина? Траулер или подводная лодка?
Идентификация людей-комбатантов, возможно, более сложна и, безусловно, более спорна. В апреле 2024 года израильское издание +972 Magazine заявило, что Армия обороны Израиля (ЦАХАЛ) использует инструмент искусственного интеллекта, известный как Lavender, для идентификации тысяч палестинцев в качестве целей, при этом операторы-люди лишь бегло изучают выходные данные системы, прежде чем отдать приказ о нанесении ударов. в ЦАХАЛе возразили, что Lavender — это «просто база данных, целью которой является перекрестное соотнесение разведывательных источников».
На практике Lavender, скорее всего, станет тем, что эксперты называют системой поддержки принятия решений (DSS), инструментом для объединения различных данных, таких как записи телефонных разговоров, спутниковые снимки и другие разведданные. Использование Америкой компьютерных систем для обработки акустических и запаховых данных от датчиков во Вьетнаме можно считать примитивным DSS. Руперт Барретт-Тейлор из Института Алана Тьюринга в Лондоне отмечает, что то же самое можно сказать и о программном обеспечении, используемом американскими шпионами и спецназом в войне с терроризмом, которое превращает записи телефонных разговоров и другие данные в огромные паутинные диаграммы, визуализирующие связи между людьми и местами, с целью выявления повстанцев или террористов.
Отличие заключается в том, что сегодняшнее программное обеспечение выигрывает от большей вычислительной мощности, более быстрых алгоритмов (прорыв в нейронных сетях произошел только в 2012 году) и большего объема данных благодаря распространению датчиков. Результатом является не просто увеличение или улучшение интеллекта. Это размывание грани между разведкой, наблюдением и рекогносцировкой (ISR) и командованием и управлением (C2) — между осмыслением данных и действиями на их основе.
Возьмем, к примеру, украинское программное обеспечение ГИС «Арта», которое сопоставляет данные о российских целях, как правило, для артиллерийских батарей. Оно уже может генерировать списки потенциальных целей «в соответствии с приоритетами командира», пишут генералы Хинот и Райан. По словам официальных лиц, одна из причин, по которой российские целеуказания на Украину в последние месяцы улучшились, заключается в том, что российские системы С2 стали лучше обрабатывать информацию с беспилотников и отправлять ее в пушки. «По некоторым оценкам, — пишет Артур Холланд Мишель в докладе для гуманитарной организации Международного Комитета Красного Креста (МККК), — поиск, распознавание и анализ целей, которые раньше занимали несколько часов, можно сократить... до минут».
Военно-воздушные силы США недавно обратились в корпорацию RAND с просьбой оценить, могут ли инструменты ИИ предоставить варианты «космическому истребителю», имеющему дело с приближающейся угрозой для спутника. Вывод заключался в том, что ИИ действительно может рекомендовать «высококачественные» ответы. Точно так же DARPA, исследовательское подразделение Пентагона, работает над программой, названной «Механизм стратегического хаоса для планирования, тактики, экспериментирования и устойчивости» (Strategic Chaos Engine for Planning, Tactics, Experimentation and Resiliability, SCEPTER) — для выработки рекомендаций по действиям для командиров во время «военных столкновений на высоких скоростях машин». По сути, он может генерировать новые военные планы на лету.
«Многие методы, которые используются» в SCEPTR и подобных проектах DARPA, «не существовали даже два-пять лет назад», говорит Эрик Дэвис, руководитель программы в агентстве. В качестве примера он приводит «теорию операторов Купмана», старую и малоизвестную математическую структуру, которая может быть использована для анализа сложных и нелинейных систем, подобных тем, которые встречаются на войне, в терминах более простой линейной алгебры. Недавние прорывы в его применении сделали ряд проблем ИИ более решаемыми.
Результатом всего этого является растущая интеллектуальная пропасть между теми, чья работа состоит в том, чтобы вести войну, и теми, кто стремится ее укротить. Юристы и специалисты по этике утверждают, что растущая роль ИИ в войне таит в себе опасность. «Системы, которые мы имеем сейчас, не могут распознать враждебные намерения», — утверждает Ноам Лабелл из Университета Эссекса. «Они не могут отличить невысокого солдата с настоящим пистолетом от ребенка с игрушечным пистолетом... или между раненым солдатом, лежащим над винтовкой, и снайпером, готовым стрелять из снайперской винтовки». Такие алгоритмы «не могут быть использованы на законных основаниях», заключает он. Нейронные сети также можно слишком легко обмануть, говорит Стюарт Рассел, специалист по информатике: «Затем вы можете взять совершенно невинные объекты, такие как фонарные столбы, и напечатать на них узоры, которые убедят оружие в том, что это танк».
Сторонники военного ИИ возражают, что у скептиков слишком радужный взгляд на войну. Ударный беспилотник, охотящийся за конкретным объектом, может быть не в состоянии распознать, не говоря уже о том, чтобы уважать попытку капитуляции, признает бывший британский офицер, занимающийся политикой в области ИИ. Но если альтернативой является интенсивный артиллерийский огонь, «в этих обстоятельствах все равно нельзя сдаться». Кит Дир, бывший офицер Королевских военно-воздушных сил, который сейчас работает в японской фирме Fujitsu, идет еще дальше. «Если... Машины производят более низкий уровень ложноположительных и ложноотрицательных результатов, чем люди, особенно под давлением, было бы неэтично не делегировать полномочия», — утверждает он. «Мы проводили различные виды тестов, в которых сравнивали возможности и достижения машины и сравнивали с возможностями человека», — говорит генерал ЦАХАЛа Хейман. «Большинство тестов показывают, что машина гораздо, гораздо, намного точнее... В большинстве случаев это не идет ни в какое сравнение».
Одно из заблуждений заключается в экстраполяции антитеррористических кампаний 2000-х годов. «Будущее не за распознаванием лиц — за парнем и стрельбой в него с высоты 10 000 футов», — утверждает Палмер Лаки, основатель Anduril, одной из фирм, участвующих в StormCloud. «Речь идет о попытке сбить флот десантных кораблей в Тайваньском проливе». Если объект обладает визуальной, электронной и тепловой сигнатурой ракетной установки, утверждает он, «вы просто не можете ошибаться... Он невероятно уникален». Довоенное моделирование еще больше снижает неопределенность: «99% того, что вы видите в китайском конфликте, будет выполнено в симуляции несколько раз, — говорит Лаки, — задолго до того, как это произойдет».
«Проблема в том, что когда машина совершает ошибки, это ужасные ошибки», — говорит генерал Хейман. «Если они будут приняты, это приведет к травматическим событиям». Поэтому он выступает против того, чтобы выводить человека «из петли» и автоматизировать удары. «Это действительно заманчиво», — признает он. «Вы беспрецедентно ускорите процедуру. Но вы можете нарушить международное право». Лаки признает, что ИИ будет наименее актуален в «грязной, грязной, ужасной» работе городских войн в стиле Газы. «Если люди воображают, что роботы-терминаторы будут искать нужного Мухаммеда и стрелять в него... Так не выйдет».
Со своей стороны, МККК предупреждает, что ИИ-системы потенциально непредсказуемы, непрозрачны и подвержены предвзятости, но признает, что они «могут способствовать более быстрому и широкому сбору и анализу имеющейся информации... минимизация рисков для гражданского населения». Многое зависит от того, как используются инструменты. Если ЦАХАЛ использовал Lavender, как сообщалось, это говорит о том, что проблема заключалась в чрезмерно расширительных правилах ведения боя и небрежности операторов, а не в какой-либо патологии самого программного обеспечения.
В течение многих лет эксперты и дипломаты спорили в Организации Объединенных Наций о том, следует ли ограничивать или запрещать автономные системы вооружений (AWS). Но даже определить их сложно. МККК говорит, что АРМ — это те, которые выбирают цель на основе общего профиля — скажем, любой танк, а не конкретный танк. Это включает в себя многие беспилотники, используемые на Украине. МККК выступает за запрет AWS, которые нацелены на людей или ведут себя непредсказуемо. Британия возражает, что «полностью автономное» оружие — это оружие, которое идентифицирует, выбирает и атакует цели без «соответствующего контексту участия человека», что является гораздо более высокой планкой. Пентагон придерживается аналогичной точки зрения, подчеркивая «надлежащие уровни человеческого суждения».
Определить это, в свою очередь, чертовски сложно. И дело не только в смертельном акте, но и в том, что ему предшествует. Может показаться, что высокоавтономному ударному беспилотнику не хватает человеческого контроля. Но если его поведение хорошо понятно и он используется в районе, где, как известно, есть законные военные цели и нет гражданских лиц, это может создать мало проблем. И наоборот, инструмент, который просто предлагает цели, может показаться более безобидным. Но командиры, которые вручную утверждают отдельные цели, предложенные инструментом, «без когнитивной ясности или осведомленности», как выразилась правозащитная группа Article 36 — другими словами, бездумно нажимая красную кнопку, — отказываются от моральной ответственности перед машиной.
Затруднительное положение, вероятно, усугубится по двум причинам. Одна из них заключается в том, что ИИ порождает ИИ. Если одна армия использует ИИ для более быстрого обнаружения и поражения целей, другая сторона может быть вынуждена обратиться к ИИ, чтобы не отставать. Это уже имеет место, когда речь идет о противовоздушной обороне, где передовое программное обеспечение было необходимо для отслеживания приближающихся угроз с самого начала компьютерной эры.
Другая причина заключается в том, что пользователям будет сложнее понять поведение и ограничения военных систем. Современное машинное обучение пока не получило широкого распространения в «критических» системах поддержки принятия решений, отмечает Холланд Мишель. Эти системы будут выполнять «менее математически определенные задачи», отмечает он, такие как предсказание будущих намерений противника или даже его или ее эмоционального состояния.
Поговаривают даже об использовании ИИ в принятии ядерных решений. Идея заключается в том, что страны могут не только объединять данные для отслеживания поступающих угроз (как это происходило с 1950-х годов), но и автоматически принимать ответные меры, если политическое руководство будет убито в результате первого удара. Советский Союз работал над такой концепцией «мёртвой руки» во время холодной войны в рамках своей системы «Периметр». Он по-прежнему используется и, по слухам, зависит от программного обеспечения, управляемого ИИ, отмечает Леонид Рябихин, бывший офицер советских ВВС и эксперт по контролю над вооружениями. В 2023 году группа американских сенаторов даже внесла новый законопроект: «Закон о блокировании ядерного запуска автономным искусственным интеллектом». Это, естественно, секретная область, и мало что известно о том, как далеко хотят зайти разные страны. Но этот вопрос достаточно важен, чтобы быть одним из главных в повестке дня президентских переговоров в 2023 году между Джо Байденом и Си Цзиньпином.
На данный момент в обычных войнах «почти всегда есть время для того, чтобы кто-то сказал «да» или «нет», говорит британский офицер. «Нет необходимости в автоматизации всей цепочки убийств или подталкивания». Будет ли это правдой в войне высокой интенсивности с Россией или Китаем, менее ясно. В книге «Команда человек-машина», опубликованной под псевдонимом в 2021 году, бригадный генерал Йоси Сариэль, глава элитного подразделения израильской военной разведки, написал, что «человеко-машинная команда» с искусственным интеллектом может генерировать «тысячи новых целей каждый день» в войне. «Существует человеческое узкое место, — утверждал он, — как для определения местоположения новых целей, так и для принятия решений об утверждении целей».
На практике все эти дебаты вытесняются событиями. Ни Россия, ни Украина не обращают особого внимания на то, является ли беспилотник «автономной» системой вооружения или просто «автоматизированной». Их приоритетом является создание оружия, способного уклоняться от помех и уничтожать как можно больше вражеской брони. Ложноположительные результаты не являются большой проблемой ни для российской армии».
Над этими дебатами также нависает призрак войны с участием великих держав. Страны НАТО знают, что им, возможно, придется иметь дело с российской армией, которая, возможно, после окончания этой войны будет иметь большой опыт создания оружия с ИИ и его испытаний на поле боя. Китай также использует многие из тех же технологий, что и Америка. Китайские фирмы производят подавляющее большинство беспилотников, продаваемых в Америке, будь то в качестве потребительских товаров или для промышленных целей. В ежегодном докладе Пентагона о военной мощи Китая отмечается, что в 2022 году Народно-освободительная армия Китая (НОАК) начала обсуждать «многодоменную высокоточную войну»: использование «больших данных и искусственного интеллекта для быстрого выявления ключевых уязвимостей» в американских военных системах, таких как спутники или компьютерные сети, которые затем могут быть атакованы.
Вопрос в том, кто одержит верх. Американские чиновники когда-то беспокоились о том, что слабые правила конфиденциальности и контроль Китая над частным сектором дадут НОАК доступ к большему количеству и более качественным данным, что приведет к созданию более совершенных алгоритмов и оружия. Эти опасения смягчились. Недавнее исследование данных о закупках, проведенное Центром безопасности и новых технологий (CSET) при Джорджтаунском университете, показало, что Америка и Китай «уделяют сопоставимый уровень внимания аналогичному набору приложений ИИ» (см. диаграмму 2).
Более того, Америка вырвалась вперед в передовых моделях, отчасти благодаря ограничениям на чипы. В 2023 году она произвела 61 примечательную модель машинного обучения, а в Европе — 25, по данным компании Epoch AI. Китай произвел 15. Это не модели в нынешних военных системах, но они будут использоваться в будущем. «Китай сталкивается со значительными препятствиями с... военным ИИ», — утверждает Сэм Бресник из CSET. Он отмечает, что неясно, обладает ли НОАК техническими талантами для создания систем мирового класса, а централизованное принятие решений может препятствовать поддержке принятия решений с помощью ИИ. Многие китайские эксперты также обеспокоены «ненадежным» ИИ. «НОАК обладает большой смертоносной военной мощью, — отмечает Джейкоб Стоукс из CNAS, другого аналитического центра, — но в настоящее время ни одна из них, похоже, не обладает значимым уровнем автономии, обеспечиваемым ИИ».
Кажущаяся медлительность Китая является частью более широкой картины. Некоторые, такие как Кеннет Пейн из Королевского колледжа Лондона, считают, что ИИ изменит не только ведение войны, но и ее сущность. «Это слияние машинно-человеческого интеллекта возвестит о действительно новой эре принятия решений на войне», — предсказывает он. «Возможно, это самое революционное изменение со времен открытия письменности несколько тысяч лет назад». Но даже по мере того, как такие утверждения становятся все более правдоподобными, трансформация во многих отношениях остается упорно далекой.
«Ирония заключается в том, что мы говорим так, как будто ИИ повсюду в обороне, хотя его почти нигде», — отмечает сэр Крис Деверелл, британский генерал в отставке. «Проникновение ИИ в Министерство обороны Великобритании практически нулевое... Здесь много новаторского театра». Высокопоставленный чиновник Пентагона говорит, что министерство добилось серьезного прогресса в улучшении инфраструктуры данных — каналов, по которым перемещаются данные, — и в беспилотных летательных аппаратах, которые работают вместе с боевыми самолетами с экипажами. Тем не менее, Пентагон тратит менее 1% своего бюджета на программное обеспечение — статистика, которую часто приводят руководители оборонно-технологических стартапов. «Уникальность Пентагона заключается в том, что наша миссия включает в себя применение силы, поэтому ставки высоки», — говорит чиновник. «Мы должны внедрять ИИ быстро и безопасно».
Между тем, британский StormCloud становится «все лучше и лучше», говорит офицер, участвующий в его разработке, но проект продвигается медленно из-за внутренней политики и бюрократических проволочек вокруг аккредитации новой технологии. Финансирование второй итерации составило ничтожные 10 миллионов фунтов стерлингов, карманные деньги в мире обороны. В 2024 году планируется использовать его на нескольких учениях. «Если бы мы были на месте Украины или действительно беспокоились о том, что в ближайшее время начнем войну, — говорит офицер, — мы бы потратили более 100 миллионов фунтов стерлингов и развернули бы ее в течение нескольких недель или месяцев».
III. «6 способов, которыми ИИ изменит войну и мир». Так назвал свою статью в Bloomberg (09.06.2024) профессор Хэл Брэндс (Университет Джона Хопкинса). Автор пишет:
«Насколько революционным будет ИИ? Нарушит ли это глобальный баланс сил? Позволит ли это автократиям править миром? Сделает ли это войну настолько быстрой и жестокой, что она станет неконтролируемой? Короче говоря, изменит ли ИИ фундаментально ритмы мировых событий?
Конечно, еще слишком рано говорить однозначно: последствия ИИ в конечном итоге будут зависеть от решений, которые принимают лидеры и страны, а технологии иногда совершают неожиданные повороты. Но даже несмотря на то, что следующая версия ChatGPT нас удивляет и беспокоит, нам нужно разобраться с шестью более глубокими вопросами о международных отношениях в эпоху ИИ. И нам нужно рассмотреть удивительную возможность: возможно, ИИ не изменит мир так сильно, как мы ожидаем.
1) Сделает ли ИИ войну неуправляемой?
Рассмотрим одно утверждение: ИИ сделает конфликт более смертоносным и его будет труднее сдерживать. Аналитики предвидят будущее, в котором машины смогут пилотировать истребители более умело, чем люди, кибератаки с помощью ИИ разрушают вражеские сети, а передовые алгоритмы ускоряют скорость принятия решений. Некоторые предупреждают, что автоматизированное принятие решений может спровоцировать стремительную эскалацию – даже ядерную эскалацию – что заставит политиков задуматься о том, что же произошло. Если военные планы и расписание железных дорог стали причиной Первой мировой войны, возможно, ИИ станет причиной Третьей мировой войны.
То, что ИИ изменит войну, неоспоримо. Возможности огромны: от обеспечения профилактического обслуживания оборудования до поразительных улучшений в области точного нацеливания. Один F-35, защищающий рой полуавтономных дронов, может обладать огневой мощью целого крыла бомбардировщиков. Как заключила в 2021 году Комиссия национальной безопасности по искусственному интеллекту (США), в «новой эпохе конфликта» будет доминировать та сторона, которая освоит «новые способы ведения войны».
Но здесь нет ничего принципиально нового. История войн на протяжении веков — это история, в которой инновации регулярно делают бой более быстрым и интенсивным. Так что подумайте дважды, прежде чем согласиться с утверждением, что ИИ сделает эскалацию неконтролируемой.
США и Китай обсудили соглашение не автоматизировать свои процессы ядерного командования и контроля (обещание, которое Вашингтон дал независимо) по той простой причине, что у государств есть сильные стимулы не отказываться от контроля над оружием, использование которого может поставить под угрозу их собственное выживание. Большую озабоченность вызывает поведение России, включая разработку торпед с ядерным боеголовкой, которые в конечном итоге смогут работать автономно. Но даже во время холодной войны, когда Москва создала систему, призванную обеспечить ядерный ответный удар, даже если ее руководство будет уничтожено, она никогда не отключала человеческий контроль. Ожидайте, что сегодняшние великие державы будут агрессивно использовать военные возможности, которые предоставляет ИИ, пытаясь при этом оставить самые важные решения в руках людей.
Фактически, ИИ может снизить риск головокружительной эскалации, помогая лицам, принимающим решения, сквозь туман кризиса и войны. Пентагон считает, что разведывательные и аналитические инструменты на основе ИИ могут помочь людям разобраться в запутанной или фрагментарной информации о подготовке врага к войне или даже о том, действительно ли ведется опасная ракетная атака».
«В этом смысле ИИ может смягчить неуверенность и страх, которые подталкивают людей к крайним реакциям. Предоставляя политикам лучшее понимание событий, ИИ может также улучшить их способность управлять ими».
2) Поможет ли ИИ автократиям, таким как Китай, контролировать мир?
А как насчет связанного с этим кошмара — что ИИ поможет силам тирании контролировать будущее? Аналитики, такие как Юваль Ноа Харари, предупреждают, что ИИ сократит затраты и увеличит отдачу от репрессий. Разведывательным службам, оснащенным ИИ, потребуется меньше рабочей силы для расшифровки огромных объемов разведывательной информации, которую они собирают о своем населении, что позволит им, например, точно составить карту и безжалостно разрушить сети протестов. Они будут использовать технологию распознавания лиц с поддержкой ИИ для наблюдения и контроля над своими гражданами, одновременно используя созданную ИИ дезинформацию для дискредитации критиков внутри страны и за рубежом. Повышая эффективность автократии, ИИ может позволить диктаторам доминировать в эпоху зари.
Это, безусловно, то, на что надеется Китай. Правительство президента Си Цзиньпина разработало систему «социального кредита», которая использует ИИ, распознавание лиц и большие данные для обеспечения надежности своих граждан, регулируя их доступ ко всему: от кредитов под низкие проценты до билетов на самолет».
«Пекин намерен захватить «стратегические командные высоты» инноваций, поскольку считает, что ИИ может укрепить его внутреннюю систему и военную мощь. Он использует мощь нелиберального государства, чтобы направить деньги и таланты на передовые технологии».
«Верить в то, что ИИ фундаментально поддерживает автократию, значит верить в то, что некоторые из наиболее важных и давних факторов, способствующих инновациям, такие как открытые потоки информации и терпимость к инакомыслию, больше не так важны. Однако автократия уже ограничивает потенциал Китая.
Создание мощных больших языковых моделей требует огромных объемов информации. Но если эти данные будут испорчены или предвзяты из-за жесткой цензуры китайского Интернета, качество результатов пострадает. Все более репрессивная система со временем также будет бороться за привлечение лучших талантов: показательно, что 38% ведущих исследователей ИИ в США родом из Китая. И умные технологии по-прежнему должны использоваться правительственными институтами Китая, которые становятся все менее технократически компетентными — по мере того, как политическая система становится все более централизованно подчиненной».
3) Будет ли ИИ отдавать предпочтение наиболее развитым или остальным обществам?
«Некоторые технологии сокращают разрыв между наиболее и наименее технологически развитыми обществами. Ядерное оружие, например, позволяет таким небольшим странам, как Северная Корея, компенсировать военные и экономические преимущества, которыми обладает сверхдержава и ее союзники. Другие увеличивают разрыв: в ХIХ веке магазинные винтовки, пулеметы и пароходы позволили европейским обществам подчинить себе обширные территории мира.
В некотором смысле ИИ усилит слабых. Официальные лица США обеспокоены тем, что большие языковые модели могут помочь террористам с грубыми научными наборами создать биологическое оружие. Иран сможет использовать ИИ для координации группировок дронов против военных кораблей США в Персидском заливе. Более благоприятным является то, что ИИ может расширить доступ к базовым медицинским услугам на Глобальном Юге, создавая большие выгоды в виде увеличения продолжительности жизни и экономической производительности.
Однако в других отношениях ИИ будет игрой для богатых. Разработка современного ИИ обходится фантастически дорого. Обучение больших языковых моделей может потребовать огромных инвестиций и доступа к ограниченному числу ведущих ученых и инженеров, не говоря уже об ошеломляющих объемах электроэнергии. По некоторым оценкам, стоимость инфраструктуры, поддерживающей чат-бот Microsoft Bing AI, составляет 4 миллиарда долларов. Практически каждый может стать пользователем ИИ, но для того, чтобы стать его создателем, требуются огромные ресурсы.
Вот почему средние державы, делающие большие шаги в области ИИ, такие как Саудовская Аравия и Объединенные Арабские Эмираты, имеют очень глубокие карманы. Многие из первых лидеров в гонке ИИ являются либо технологическими титанами (Alphabet, Microsoft, Meta, IBM, Nvidia и другие), либо фирмами, имеющими доступ к их деньгам (OpenAI). И США, с их динамичным, хорошо финансируемым технологическим сектором, по-прежнему лидируют в этой области.
То, что верно в частном секторе, может быть верно и в сфере ведения войны. На начальном этапе военные выгоды от новых технологий могут в непропорциональной степени достаться странам с щедрыми оборонными бюджетами, необходимыми для разработки и применения новых возможностей в больших масштабах.
Все это может измениться: раннее лидерство не всегда приводит к устойчивым преимуществам. Выскочки, будь то фирмы или страны, уже революционизировали другие области. Однако на данный момент ИИ может скорее укрепить, чем революционизировать баланс сил.
4) Будет ли ИИ разрушать или укреплять коалиции?
То, как ИИ повлияет на баланс сил, зависит от того, как он повлияет на глобальные коалиции. Как зафиксировали аналитики Центра безопасности и новых технологий Джорджтаунского университета, США и их союзники могут значительно опередить Китай в расходах на передовые технологии — но только если они объединят свои ресурсы. Самая большая надежда Пекина заключается в том, что свободный мир расколется из-за ИИ.
Это может случиться. Вашингтон обеспокоен тем, что новый подход Европы к генеративному регулированию ИИ может задушить инновации: в этом смысле ИИ подчеркивает расходящиеся подходы США и Европы к рынкам и рискам. Другая ключевая демократия, Индия, предпочитает стратегическую автономию стратегическому союзу: в технологиях, как и в геополитике, она предпочитает идти своим собственным путем. Тем временем некоторые из недемократических партнеров Вашингтона, а именно Саудовская Аравия и ОАЭ, рассматривают возможность более тесных технологических связей с Пекином.
Но делать вывод о том, что ИИ фундаментально разрушит альянсы США, преждевременно. В некоторых случаях США успешно используют эти альянсы в качестве инструментов технологической конкуренции: посмотрите, как Вашингтон уговаривал Японию и Нидерланды ограничить доступ Китая к высококачественным полупроводникам. США также используют партнерские отношения в области безопасности с Саудовской Аравией и ОАЭ, чтобы ограничить их технологические отношения с Пекином и способствовать партнерству в области ИИ между американскими и эмиратскими фирмами. В этом смысле геополитические расклады определяют развитие ИИ, а не наоборот.
На более фундаментальном уровне предпочтения стран в отношении ИИ связаны с их предпочтениями в отношении внутреннего и международного порядка. Таким образом, какие бы разногласия ни существовали между США и Европой, они могут меркнуть по сравнению с их общими опасениями по поводу того, что произойдет, если Китай достигнет господства. Европа и Америка могут в конечном итоге найти путь к более тесному сотрудничеству по вопросам ИИ — точно так же, как общая враждебность к мощи США подталкивает Китай и Россию к более тесному сотрудничеству в области военного применения этой технологии сегодня.
5) Сможет ли ИИ укротить или разжечь соперничество великих держав?
Многие из этих вопросов связаны с тем, как ИИ повлияет на интенсивность конкуренции между Западом, возглавляемым США, и автократическими державами, возглавляемыми Китаем. Никто на самом деле не знает, может ли безудержный ИИ действительно угрожать человечеству. Но общие экзистенциальные риски иногда становятся странными партнерами.
Во время первой холодной войны США и Советский Союз сотрудничали, чтобы справиться с опасностями, связанными с ядерным оружием. Во время новой холодной войны, возможно, Вашингтон и Пекин найдут общую цель – не допустить использования ИИ в злонамеренных целях, таких как биотерроризм или иным образом угрожать странам по обе стороны сегодняшних геополитических разногласий.
Однако эта аналогия имеет двусторонний характер, поскольку ядерное оружие также сделало холодную войну более острой и страшной. Вашингтону и Москве пришлось пережить столкновение с высокими ставками, такое как Карибский кризис на Кубе и несколько кризисов в Берлине, прежде чем установилась шаткая стабильность. Преимущества одностороннего преимущества настолько заманчивы. Таким образом, даже несмотря на то, что США и Китай начинают зарождающийся диалог в области ИИ, технологии усиливают их конкуренцию.
ИИ находится в центре китайско-американской технологической войны, поскольку Китай использует разные методы для ускорения собственного развития, а США применяют экспортный контроль, ограничения на инвестиции и другие меры, чтобы заблокировать путь Пекина».
«ИИ также подпитывает борьбу за военное превосходство в западной части Тихого океана: «Инициатива репликатора» Пентагона предусматривает использование тысяч дронов с поддержкой ИИ для уничтожения китайского вторжения, направляющегося на Тайвань. Дуэльные державы могут в конечном итоге найти способы сотрудничества, возможно, молчаливого, в отношении взаимных опасностей, которые представляет собой ИИ. Но преобразующая технология в будущем усилит многие аспекты их соперничества».
6) Сделает ли ИИ частный сектор превосходящим государственный?
ИИ, несомненно, изменит баланс влияния между государственным и частным секторами. Аналогии между ИИ и ядерным оружием могут быть поучительны, но только до определенной степени: идея Манхэттенского проекта по ИИ вводит в заблуждение, поскольку это область, где деньги, инновации и таланты в подавляющем большинстве находятся в частном секторе.
Таким образом, компании, работающие в области ИИ, становятся мощными геополитическими игроками — и правительства это знают. Когда Илон Маск и другие эксперты выступали за мораторий на разработку передовых моделей ИИ в 2023 году, официальный Вашингтон призвал технологические компании не останавливаться, потому что это просто поможет Китаю догнать их. Государственная политика может ускорить или замедлить инновации. Но в значительной степени стратегические перспективы Америки зависят от достижений частных фирм.
Важно не заходить в этом аргументе слишком далеко. Гражданско-военное слияние Китая призвано гарантировать, что государство сможет направлять и использовать инновации частного сектора. Хотя США, как демократическая страна, не могут по-настоящему имитировать этот подход, концентрация великой власти в частных компаниях повлечет за собой ответную реакцию правительства.
Вашингтон участвует, хотя и нерешительно, в дебатах о том, как лучше всего регулировать ИИ, чтобы способствовать инновациям, ограничивая при этом вредоносное использование и катастрофические происшествия. Длинная рука государственной власти активна и в других отношениях: США никогда не позволят китайским инвесторам покупать ведущие национальные компании в области ИИ и ограничивают американские инвестиции в сектора ИИ в государствах-соперниках. А когда банк Кремниевой долины, владевший депозитами многих фирм и инвесторов в технологическом секторе, стремительно приближался к неплатежеспособности, геополитические проблемы помогли инициировать правительственную помощь.
Следует также ожидать, что в ближайшие годы больший акцент будет сделан на оказании помощи Пентагону в стимулировании разработки технологий, имеющих отношение к военной сфере, а также на облегчении превращения инноваций частного сектора в оружие, позволяющее выиграть войну. Чем более стратегически важным будет ИИ, тем менее правительства будут готовы просто позволить рынку делать свою работу.
Мы не можем предсказать будущее: ИИ может зайти в тупик или ускориться, превзойдя все ожидания. Более того, технология не является какой-то автономной силой. Его развитие и последствия будут определяться решениями во всем мире».
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_na_vojne
17.03.2024 Искусственный Интеллект может скоро стать в миллион раз сильнее
Время не ждёт
В ходе послания Федеральному собранию Президент России Владимир Путин заявил о необходимости достижения самодостаточности и конкурентоспособности в области искусственного интеллекта (ИИ).
Руководитель страны заявил, что России необходимо наращивать вычислительные ресурсы. Путин подчеркнул, что к 2030 году совокупная мощность отечественных суперкомпьютеров должна быть увеличена минимум в десять раз.
Поставленная Президентом России задача непосредственным образом связана с национальной безопасностью страны.
Наш основной геополитический конкурент – США ставят развитие ИИ во главу угла всей политики.
Об этом особенно отчетливо заявлено в докладе исполнительного вице-президента и директора по исследованиям Центра новой американской безопасности (CNAS) Пола Шарра «Перспективное регулирование искусственного интеллекта на будущее. Проектирование будущих вычислений для передовых моделей искусственного интеллекта», опубликованном 13 марта.
В докладе делаются следующие выводы:
«Политики должны подготовиться к появлению в мире значительно более мощных систем искусственного интеллекта в течение следующих 10–15 лет. Эти разработки могут произойти без фундаментальных прорывов в науке об искусственном интеллекте, а просто за счет расширения современных методов обучения более крупных моделей на большем количестве данных и вычислений.
Несмотря на ограничения по расходам и производительности оборудования, объем вычислений, используемых для обучения передовых моделей ИИ, может значительно увеличиться в следующем десятилетии.
К концу 2020-х или началу 2030-х годов объем обучающих вычислений может быть примерно в 1000 раз больше, чем для генеративной модели ИИ - GPT-4, а эффективные вычисления могут примерно в 1 миллион раз превышать GPT-4.
Существует некоторая неопределенность относительно того, когда эти пороговые значения могут быть достигнуты, но такой уровень роста представляется возможным в рамках ограничений по стоимости и оборудованию.
Улучшения такого масштаба возможны без вмешательства государства, которое полностью финансируется частными корпорациями в масштабах сегодняшних крупных технологических компаний.
Они также не требуют фундаментальных прорывов в производстве или проектировании чипов.
Ещё больший выигрыш может быть возможен, если окажется верным хотя бы одно из следующих утверждений:
Компании могут тратить большие суммы денег благодаря увеличению доходов от ИИ;
Правительства финансируют еще более масштабные и дорогостоящие тренинги;
Производительность оборудования продолжит улучшаться вплоть до 2030-х годов;
Эффективность алгоритмов продолжит улучшаться и в 2030-е годы.
В докладе не делается никаких прогнозов относительно конкретных возможностей системы, производительность которой в миллион раз превышает производительность GPT-4. Однако исторический опыт масштабирования показывает, что в результате появляются не только более производительные модели, но и открываются совершенно новые возможности.
Базовая траектория передовых систем искусственного интеллекта в ближайшем будущем — это не системы, немного более мощные, чем нынешний уровень техники. Это системы, значительно более мощные, чем сегодня.
Проблема, с которой сталкиваются политики, заключается не в регулировании систем уровня GPT-4. Придётся регулировать гораздо более мощные системы, которые могут быть построены в ближайшие 10–15 лет.
Политики должны уже сегодня начать создавать нормативную базу для подготовки к таким системам.
Точно так же, как некоторые лаборатории искусственного интеллекта разрабатывают «политику ответственного масштабирования», правительства должны подготовить свои правила к будущему, чтобы быть готовыми к будущим моделям, которые будут значительно более ресурсоемкими и производительными, чем сегодня.
Создание нормативно-правовой базы в ожидании более мощных систем ИИ имеет важное значение из-за несоответствия в скорости прогресса ИИ и процесса разработки политики, сложности прогнозирования возможностей новых систем ИИ для решения конкретных задач и скорости, с которой модели ИИ распространяются сегодня, в отсутствии регулирования.
Ожидание регулирования будущих, более мощных систем искусственного интеллекта до тех пор, пока не материализуется конкретный вред, почти наверняка приведет к тому, что регулирование будет слишком запоздалым.
В худшем случае опасные модели уже могли быть опубликованы с открытым исходным кодом, что делало бы практически невозможными попытки ограничить их распространение.
Компьютерное оборудование, вероятно, станет плодотворным инструментом регулирования, если нынешние тенденции сохранятся.
Огромные объёмы вычислений — это цена входа в обучение передовых моделей ИИ. Если текущие тенденции сохранятся, значение вычислений, вероятно, возрастет в ближайшие 10–15 лет, как важнейший вклад в обучение наиболее эффективных систем искусственного интеллекта.
Правила доступа к вычислениям (например, контроль над экспортом чипов, требования к облачным вычислениям «знай своего клиента»), если они будут эффективными, могут ограничить возможности геополитических конкурентов (Китая и России) идти в ногу с передовым развитием искусственного интеллекта в США.
Однако ограничения на доступ к вычислениям, скорее всего, замедлят, но не остановят распространение, учитывая способность алгоритмических достижений со временем позволить обучать эквивалентные системы с меньшими вычислительными затратами.
Правила в отношении вычислений будут более эффективными, если они будут сочетаться с правилами, касающимися самих моделей.
Алгоритмический прогресс оказывает существенное влияние на скорость распространения пограничных моделей. Изменения в поведении отрасли или правительственном регулировании в отношении обученных моделей, возможно, могут замедлить темпы их распространения.
Широко доступные усовершенствования алгоритмов могут замедлиться, например, если ведущие лаборатории искусственного интеллекта скроют дальнейшую информацию о своих передовых моделях или если правительство США применит экспортный контроль к обученным моделям, превышающим определенный порог вычислений, как оно уже это сделало с чипами.
Политики сталкиваются с трудным выбором в отношении регулирования ИИ в условиях значительной неопределенности.
Понимание исторических тенденций в затратах, вычислениях и эффективности алгоритмов может помочь политикам сделать разумные прогнозы о том, какое будущее возможно в течение следующего десятилетия с лишним, учитывая потенциальные ограничения дальнейшего роста».
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/iskusstvennij_intellekt_mozhet_skoro_stat_v_million_raz_sil_nee