2021-2023 Статьи
24.12.2023 Развитие ИИ находится на уровне ребёнка, который только учится держать ложку. Е.С. Ларина
«Автономные системы смертоносного оружия используют искусственный интеллект для идентификации и уничтожения человеческих целей без вмешательства человека. Их летальные версии называют «роботами-убийцами». Автономное оружие, управляемое искусственным интеллектом, а не людьми, будет становиться все более точным, быстрым и смертоносным», — говорит ведущий аналитик Института системно-стратегического анализа Елена Ларина. В интервью «БИЗНЕС Online» она дала полную характеристику настоящему и будущему искусственного интеллекта, его перспективам и опасностям, рассказала об удивительных способностях нейросетей, человекообразных роботах с ИИ, а также о том, грозит ли нам вытеснение машинами и вымирание.
08.12.2023 Тест Тьюринга: человек против ИИ. Масалович А.И.
Усовершенствование программ на основе искусственного интеллекта, является ли их использование благом. Будущее нейросетей. История создания программы Элиза. Подведение итогов теста Тьюринга. Кто победил - человек или искусственный интеллект. Точка сборки
Масалович (КиберДед) объявлен врагом американского государства и мишенью для специалистов из Meta (признана в России экстремистской и запрещена). Последние заявляют, что его система Avalanche для слежки и сканирования сети используется в целях наблюдения за деятельностью экоактивистов, журналистов и общественных организаций. В феврале имя КиберДеда оказалось в очередном санкционном списке, Минфин США заявил, что Масалович помогал Кремлю в «атаке на демократию в Соединенных Штатах, Украине и других странах», добавив, что Белый дом «примет меры к тому, чтобы стремящиеся к экспорту авторитаризма в его российской версии не могли делать это безнаказанно»...
25.11.2023 Есть ли будущее у человечества? Искусственный интеллект , цифровые деньги и вообще - куда мы идем? Масалович А.И.
Многих пугает повальная цифровизация. Боты заменяют привычные профессии. Внедряется цифровой рубль. Действительно ли это всё может загнать человека в «цифровой концлагерь» и поработить или пока не получится у компьютера победить живой мозг? КиберДед Андрей Масалович и журналист Михаил Кокорев рассуждают на тему развития искусственного интеллекта.
25.09.2023 Китай - США: битва интеллектов. Е. Ларина, В. Овчинский
ИИ как универсальное оружие
21.09.2023 Еретик ИИ. Е. Ларина, В. Овчинский
Как известный экономист научился бояться искусственного интеллекта
06.09.2023 Скептики и оптимисты вокруг проблемы ИИ. Е. Ларина, В. Овчинский
Побеждает рационализм
21.08.2023 ИИ и цифровая дипломатия. Е. Ларина, В. Овчинский
Как не утонуть в море данных о мнимой реальности
18.08.2023 «Мировое правительство» нового типа для сдерживания ИИ?
Cтарая сказка на новый лад
17.08.2023 ИИ в Китае под контролем
Cдержат ли ограничения развитие технологии?
13.08.2023 Генеративный искусственный интеллект озаботил Пентагон
Как сохранить за ним контроль и эффективно использовать
04.08.2023 Генеративный ИИ: выгоды и риски. Е. Ларина, В. Овчинский
Пути дальнейшего развития
23.07.2023 Искусственный интеллект вновь вышел в число наиболее обсуждаемых мировых проблем. Е. Ларина, В. Овчинский
От прогноза апокалипсиса до ужесточения регулирования
28.06.2023 Что делать с искусственным интеллектом? Е. Ларина, В. Овчинский
Lискуссии и решения: от экономики до войны
25.05.2023 ChatGPT: мировой переполох. Е. Ларина, В. Овчинский
Как новые формы ИИ меняют мир
22.05.2023 ChatGPT и борьба с преступностью. Е. Ларина, В. Овчинский
Влияние генеративных моделей ИИ на криминалистику и оперативно – розыскную деятельность
12.05.2023 Искусственный интеллект на войне. Е. Ларина, В. Овчинский
Цели и возможности
20.03.2023 Искусственный интеллект VS Человек. Блог Ольги Усковой
На ютуб-канале Сама Меньшова вышло большое интервью с Ольгой Усковой.
Сегодня нейронные сети настолько глубоко проникли в жизнь каждого человека, а алгоритмам доверен такой объем информации, что устоявшийся термин восстание роботов перестает казаться абстрактной фантастикой. Скорее уж приобретает черты вполне конкретной и весьма опасной перспективы.
С 1990-х Ольга Ускова руководит компанией Cognitive Technologies. Небольшой стартап начинал с системы распознавания текста, а со временем разросся в холдинг и теперь специализируется на искусственном интеллекте в робототехнике, в частности автопилотировании наземного транспорта.
14.03.2023 Мощь искусственного интеллекта. В. Овчинский
Последствия для человечества
18.10.2022 Искусственный интеллект и контроль над вооружениями. Е. Ларина, В. Овчинский
О докладе «вашингтонских мечтателей»
25.07.2022 Китай: судебно - полицейская власть алгоритма. Е. Ларина, В. Овчинский
Когда ИИ становится главным в борьбе с преступностью
20.07.2022 Китайская ИИ – кратия. Е. Ларина, В. Овчинский
КНР стремится к мировому лидерству в области искусственного интеллекта
06.04.2021 Как развивается искусственный интеллект? Е. Ларина, В. Овчинский
Мировые тенденции
26.02.2021 Доктрина Шмидта. Е. Ларина, В. Овчинский
Новые технологии и будущее национальной безопасности США
24.12.2023 Развитие ИИ находится на уровне ребёнка, который только учится держать ложку.
«Автономные системы смертоносного оружия используют искусственный интеллект для идентификации и уничтожения человеческих целей без вмешательства человека. Их летальные версии называют «роботами-убийцами». Автономное оружие, управляемое искусственным интеллектом, а не людьми, будет становиться все более точным, быстрым и смертоносным», — говорит ведущий аналитик Института системно-стратегического анализа Елена Ларина. В интервью «БИЗНЕС Online» она дала полную характеристику настоящему и будущему искусственного интеллекта, его перспективам и опасностям, рассказала об удивительных способностях нейросетей, человекообразных роботах с ИИ, а также о том, грозит ли нам вытеснение машинами и вымирание.
«Искусственный интеллект — это то, что помогает достигать заданных целей» Фото: Kremlin Pool / Global Look Press / www.globallookpress.com
«Можно определить ИИ как сочетание сверхмощных компьютеров с нейронными сетями и глубоким машинным обучением»
— Елена Сергеевна, сейчас очень много разговоров об искусственном интеллекте, причем зачастую этот термин употребляют не всегда к месту (особенно наши чиновники), нередко даже не зная, что это такое. «Интеллект» в переводе с латинского означает в том числе «понимание» и «рассудок». Если мы говорим об искусственном интеллекте, то подразумеваем, что машина нас понимает так же, как человек, и у нее есть рассудок? А если нет, то, может быть, уместно применить к этим машинным вариациям другой термин, а не «интеллект»? Почему именно «интеллект»?
Вы совершенно правы. Сегодня об искусственном интеллекте не говорит и не пишет только ленивый. И действительно, зачастую люди употребляют термин, не представляя, что это такое. Слишком много существует на эту тему домыслов и преувеличений. Основная причина споров об искусственном интеллекте — в понимании самого термина.
Как говорят китайцы, самое важное в деле — дать ему правильное имя. Искусственному интеллекту в этом плане не повезло. Термин неудачный. Однако менять его уже поздно. Он стал общеупотребительным не только среди публики, но и среди специалистов и практиков. Проблема в том, что никто не знает, что такое интеллект или сознание. Поэтому дополнение эпитета «искусственный» лишь запутывает понимание термина «интеллект». Кроме того, мы пока не можем охарактеризовать, какие виды вычислительных процедур хотим назвать интеллектуальными. Мы понимаем одни механизмы интеллекта и не понимаем другие.
На протяжении долгих лет сложилось множество мифов о сути искусственного интеллекта. Сегодняшний бум искусственного интеллекта создает у многих иллюзию, что мы имеем дело с каким-то новейшим открытием. Это не так. Знаменитый компьютерщик Джон Маккарти написал статью «Что такое искусственный интеллект» около 60 лет назад. В ней он привел следующее определение: «Искусственный интеллект — это то, что помогает достигать заданных целей».
Еще в 40-е годы XX века такие ученые, как Норберт Винер (основоположник кибернетики), Джон фон Нейман (основоположник теории игр), Конрад Цузе (разработчик первого компьютера), академик Андрей Колмогоров (создал оригинальную теорию информации, отличную от Винера), писали, что искусственный интеллект возможен. Американский исследователь Марвин Мински в те годы дал определение искусственного интеллекта. ИИ — это такая машина, относительно которой человек, который с ней взаимодействует, не может сказать, с кем он взаимодействует — с человеком или машиной. Это понимание первоначально и прижилось.
С точки зрения Мински, уже давно действуют полноценные системы ИИ. Это общая точка зрения. Именно поэтому ИИ в XX веке в основном был связан с одной задачей — играми. Была цель — создать машину, которая играет лучше, чем человек, и тогда она обладает ИИ. Главный апофеоз пришелся на конец 1990-х — начало 2000-х. Это игра в шахматы и поединок компьютера IВM, который выиграл у Гарри Каспарова* (1997 год). Далее все пытались найти новую игру, в которую бы компьютер побеждал человека. Игра го сложнее шахмат, и в 2016-м искусственный интеллект обыграл в нее человека. Покер сложнее го, и в 2019 году человек уступил компьютеру в эту игру. Потом Watson победил человека в Jeopardy — это аналог нашей «Своей игре». И тогда сказали, что наконец компьютер превзошел человека. Однако затем все-таки решили, что, для того чтобы называться искусственным интеллектом, недостаточно обыгрывать человека в какие бы то ни было игры.
Пожалуй, когда дело касается искусственного интеллекта, все вспоминают знаменитый тест Тьюринга. Его суть в следующем: если при общении с компьютером нельзя понять, с кем идет беседа — с человеком или машиной, то такой компьютер можно считать искусственным интеллектом. Грубо говоря, искусственный интеллект — это интеллект, похожий на человеческий по поведению. Долгое время всех удовлетворяло такое понимание искусственного интеллекта. Собственно, знаменитая экспертная система Watson — это и есть реализация на практике программно-аппаратного комплекса, способного пройти тест Тьюринга. Watson, кстати, породил нынешний бум ботов, которые могут поддерживать элементарную беседу. Существует еще множество определений искусственного интеллекта, но до сих пор единственного признанного всеми нет. Примерно можно определить ИИ как сочетание сверхмощных компьютеров с нейронными сетями и глубоким машинным обучением.
Системы ИИ могут превышать человеческие возможности. Уже сегодня ИИ лучше решает комбинаторные задачи, чем человек. Типичными комбинаторными задачами как раз и являются игры типа шахмат, го и тому подобное. Для многих других задач, относящихся в том числе к творческим или, например, к потенциально опасным, человеческий интеллект не может в ближайшие годы быть заменен искусственным.
«Системы ИИ могут превышать человеческие возможности. Уже сегодня ИИ лучше решает комбинаторные задачи, чем человек» Фото: Cfoto/Keystone Press Agency / www.globallookpress.com
«Компьютеры пока ближе к арифмометрам и калькуляторам, чем к человеческому мозгу»
— Говорят, что искусственный интеллект — самообучающаяся система и в этом он чем-то похож на человека. Насколько ИИ обучаем, может ли он в этом превзойти человека, дойдя до таких глубин сознания или подсознания, что этот уже высший разум возвысится над нами во всех смыслах? Есть такая вероятность? Платон же описал идеальное государство таким образом, что во главе всего должны стоять бескорыстные высшие существа, у него это философы, а под ними уже могут быть распорядители-чиновники, воины, работники и так далее. Может, это было бы и хорошо? Возможно, этот высший бескорыстный разум без эмоций смог бы дать людям то счастье, равновесие, справедливость, умиротворение и гармонию, которых им так не хватает?
— Одно из направлений развития искусственного интеллекта связывается со способностью программ к самосовершенствованию. Неслучайно, что о нейронных сетях, глубоком обучении и искусственном интеллекте заговорили одновременно. На самом деле известны все они были примерно те же 60 лет. Главная проблема была в дороговизне «железа», то есть самих компьютеров, способных выполнять эти программы. Нейронная сеть может эффективно решать конкретные задачи, но при этом никогда не пройдет тест Тьюринга.
Летом 1956 года в Университете Дартмута в США прошла первая рабочая конференция с участием таких ученых, как Маккарти, Минский, Шеннон, Тьюринг и других, которые впоследствии были названы основателями сферы искусственного разума. В течение 6 недель ученые обсуждали возможности реализации проектов в сфере ИИ. Тогда, кстати, и появился сам термин artificial intelligence (искусственный интеллект). После знаменитой конференции в Дартмуте ИИ получил впечатляющее развитие. Были созданы машины, которые могли решать математические задачи, обыгрывать в шахматы, и даже первый прообраз чат-бота, который мог разговаривать с людьми, вводя их в заблуждение по поводу своей осознанности.
Пожалуй, самое распространенное из этих заблуждений в том, что якобы для создания ИИ надо точно разобраться с тем, как работает человеческий мозг и как он связан с сознанием. Современные специалисты, подчеркиваю, специалисты (!) в области ИИ полагают, что компьютеры пока ближе к арифмометрам и калькуляторам, чем к человеческому мозгу. Они работают на иных принципах, чем наш мозг. Нейронные сети, о которых говорят айтишники, не имеют никакого отношения к нейронам человеческого мозга. Самые совершенные нейронные сети имеют сегодня 5–6 слоев между входом и выходом и минимум синапсов. В человеческом мозге таких слоев сотни тысяч и миллионы. При этом в одних областях компьютеры как программно-аппаратные комплексы уже сегодня превосходят людей, а в других безнадежно уступают. Поэтому человек и компьютер принципиально разные устройства. Так же, как человек не похож на компьютер, так и компьютер не похож на человека.
Грубо говоря, компьютер превосходит человека там, где имеет место огромная комбинаторика, то есть наличие множества вариантов, короткое время исполнения и возможность вести анализ чего-либо путем выполнения последовательных операций, возможность написать алгоритм. Где сегодня мы видим наибольшие прорывы? В анализе больших данных, распознавании образов, поиске незаметных на первый взгляд связей и закономерностей. Отсюда возникает простое заключение. Если бы человек имел бесконечное время на решение той или иной задачи, был дисциплинирован и имел неограниченный объем памяти, то он бы успешно решал все задачи, где компьютер сегодня превзошел человека. Самые знаменитые достижения компьютеров, подаваемых как искусственный интеллект, связаны с победой в играх. Любая игра имеет правила. А там, где есть правила, путь к успеху лежит в комбинаторике и написании алгоритмов. Алгоритмы, или методы искусственного интеллекта, — это «пути» обучения ИИ, которые ему необходимо пройти, чтобы он смог достичь поставленной цели.
Дело в том, что, исходя из определения ИИ, полный цикл обработки информации в настоящее время осуществляется преимущественно на базе комбинаторных методов, глубокого обучения и нейронных сетей. Однако все три метода страдают тем недостатком, что успешно могут работать только с конечными задачами. Наиболее яркий пример конечной задачи — это любая игра, где наперед задано все количество возможных ситуаций и комбинаций, возникающих в ходе игры. Поэтому вероятности возвыситься над человеком у ИИ сегодня попросту нет.
Подытоживая, искусственный интеллект не является чем-то новым и уникальным, тем более пугающим перспективой порабощения человечества феноменом. Сегодня ИИ — это использование старых инструментов и идей в новых продуктах, отвечающих требованиям современного мира. Искусственный интеллект всего лишь помогает человеку решать сложные задачи с множеством переменных и большими массивами данных. А счастье, равновесие, справедливость, умиротворение и гармония — это внутренние характеристики душевного состояния человека, машине неведомые.
— У человека мысли и чувства неразделимы. Восприятие, понимание чего-либо, мечта и воспоминание неизменно вызывают у человека какие-то эмоции — от блаженства до обиды и ярости. Не придет ли вместе с саморазвитием машинного интеллекта машинный набор эмоций, который свойственен, как утверждают ученые, только высшим существам? Если машина станет существом, то, значит, будет испытывать эмоции. Или нет? Какая связь интеллекта и духа?
— А что такое эмоции? Это комплексный психофизиологический ответ организма на события, происходящие в нашей жизни. Чтобы понять, можно ли научить нейросети эмоциям, сначала нужно разобраться с тем, что мы сами понимаем под эмоциями и как их переживаем. С одной стороны, мы полагаем, что эмоциональность — сакральный дар, исключительная привилегия людей. С другой — знаем о ней слишком мало. На сегодняшний день ученые продолжают искать единое решение относительно того, что такое эмоции.
В обывательском представлении искусственный интеллект никогда не сможет приблизиться к человеческой эмоциональности из-за нашей особой душевной организации, которую невозможно трансплантировать в машину. Однако сложности с созданием эмоционального ИИ связаны с тем, что люди не так уж однозначны в эмпатии. Мы совсем не похожи на идеальные эмоциональные машины, которые могут с легкостью расшифровать чувства окружающих. Наша эмпатия серьезно ограничена уникальным опытом, усваиваемыми стереотипами и индивидуальными психоэмоциональными реакциями. Так, европеец вряд ли поймет, какие чувства выражает вождь африканского племени, и наоборот.
На данный момент сложно себе представить калькулятор или арифмометр, обладающий эмоциями. Пока мы можем лишь «проверить гармонию алгеброй», то есть научить ИИ распознавать человеческие эмоции опосредованно через внешние проявления и реакции человеческого тела и демонстрировать сопереживание и эмпатию. Для этого нужно сначала научить нейросеть распознавать эмоции собеседника-человека, чтобы сориентироваться в ситуации. Затем научить ее синтезировать соответствующий ситуации ответ. И наконец научить выдавать этот ответ в форме правильной эмоциональной реакции.
«Поскольку системы ИИ — это системы распознавания, то им свойственны стандартные ошибки, то есть распознавание неверного объекта как искомого и пропуск искомого объекта» Фото: Fang Zhe/XinHua / www.globallookpress.com
«В перспективе развитие ИИ может привести к непредвиденным и потенциально катастрофическим последствиям»
— По поводу ИИ высказывается немало опасений. Говорят, штука очень опасная. Согласно некоммерческой организации Center for AI Safety (CAIS), он может привести к исчезновению человечества. И это не первое предупреждение такого рода. За относительно короткое время несколько авторитетных ученых и предпринимателей заявили о разрушительном потенциале искусственного интеллекта. В чем его опасности — технические, социальные, какие угодно?
— В принципе, ситуация с ИИ не новая. Она возникает каждый раз, когда речь идет о появлении революционной технологии. Она может приносить как огромную пользу, так и гигантский вред. Вопрос в том, сумеет ли человечество правильно и вовремя распорядиться этим достижением науки. Безусловно, искусственный интеллект может быть использован, чтобы привести в действие автономное оружие, продвигать дезинформацию и совершать кибератаки.
80 лет назад великий Айзек Азимов в рассказе «Хоровод» сформулировал три коротких закона робототехники. Робот не может причинить вред человеку или допустить, чтобы человеку был причинен вред. Робот должен повиноваться всем приказам, которые дает человек. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первым двум законам. Эти три закона являются этикой роботов и искусственного интеллекта. Однако самонадеянные программисты, разработчики и бизнесмены забыли об Айзеке Азимове. Сегодня не существует этики искусственного интеллекта или роботов. Программы, написанные для экспертных систем или робототехники, не включают встроенные ограничители и не учитывают три закона робототехники Азимова. Важно также учесть, что особенно активно ИИ развивается в оборонной сфере. Риск вовлечения стран в гонку вооружений ИИ может привести к быстрому развитию технологий с потенциально опасными последствиями. Практически каждая программа и приложение, тем более такие сложные, как программы ИИ, содержат много ошибок. Часть из них устраняется в процессе эксплуатации, часть остается необнаруженной в течение всего жизненного цикла программно-аналитического комплекса.
Ошибки при программировании бывают двух типов. Первый порожден некачественным кодом, то есть просчетами и недостаточной квалификацией программистов. Здесь никаких этических проблем и вопросов юридического характера не возникает. Если программист ошибся и его ошибки привели к тяжелым последствиям для отдельных граждан или компаний, то он несет административную, вплоть до уголовной, ответственность. В основе второго типа ошибок лежат неверные алгоритмы. Алгоритмисты и программисты — это разные люди. Программист пишет кодом алгоритм, после чего последний превращается в работающую программу. Главная проблема состоит в том, что алгоритмисты — это в основном математики. Зачастую они испытывают определенные сложности в общении с представителями гуманитарных знаний. Из-за того что алгоритмисты и предметные специалисты зачастую не понимают друг друга, возникают ошибки в алгоритмах.
Вторая группа этических проблем связана с интерпретацией результатов программ человеком или ИИ. Главная проблема в том, что с массовым применением в программировании метода нейронных сетей даже разработчики, не говоря уже о предметниках, перестали понимать, почему программа делает именно такие выводы, а не другие. ИИ может принимать решения, исходя из своей логики, что может быть неэтичным с точки зрения человека.
Автономные системы смертоносного оружия используют искусственный интеллект для идентификации и уничтожения человеческих целей без вмешательства человека. Их летальные версии называют «роботами-убийцами». Автономное оружие, управляемое искусственным интеллектом, а не людьми, будет становиться все более точным, быстрым и смертоносным.
Я привела лишь несколько примеров разрушительного потенциала искусственного интеллекта. В перспективе развитие ИИ может привести к непредвиденным и потенциально катастрофическим последствиям. Опасности искусственного интеллекта всегда должны быть предметом обсуждения, чтобы лидеры могли найти способы использовать эту технологию в благородных целях.
Если сравнивать искусственный интеллект с человеком, то сегодня его развитие находится на уровне ребенка, который только учится держать ложку. Поскольку угрозы напрямую связаны с уровнем развития ИИ, для фактической реализации большинства из них еще очень далеко. Так себе, конечно, утешение.
— В чем разрушительный потенциал, если продолжать развивать эту тему? Мы придумываем для детей всякие ограничения, а ребенок растет, развивается и придумывает, как умно и красиво обойти наши запреты, причем так, что мы не всегда заметим. Нет вероятности чего-то подобного?
— Безусловно, есть технологические риски использования ИИ. Как мы уже выяснили, искусственный интеллект ничего не знает и не умеет думать. Он не знает окружающий мир, слова, явления или еще что-нибудь. Он оперирует всегда с данными, которые преобразованы в числа. Получив множество чисел на входе, ИИ выдает множество чисел на выходе. И он не знает, что за ними стоит. Внутри этого «ящика» могут быть какие-то очень сложные схемы типа нейронных сетей, замысловатые формулы на миллиарды параметров. Но суть от этого не меняется. Это все равно просто некий «ящик».
Ситуация «черного ящика» приводит к тому, что не существует технических средств аудита систем ИИ в настоящее время, что позволяет разработчику или оператору системы при обучении вносить в систему недокументированные функции (например чужеродные объекты, которые система будет пропускать как разрешенные), обнаружить которые в работающей системе нельзя.
Алгоритмы ИИ часто дают непредсказуемые результаты. Предсказуемость является необходимым условием для эффективного управления искусственным интеллектом человеком. Предсказуемость относится к способности человека предвидеть результаты работы ИИ, что позволяет людям обнаруживать и предотвращать ошибки, допущенные ИИ. Чтобы решить проблему недостаточной предсказуемости, исследователи призвали к созданию более объяснимого и предсказуемого ИИ.
Поскольку системы ИИ — это системы распознавания, то им свойственны стандартные ошибки, то есть распознавание неверного объекта как искомого и пропуск искомого объекта. Во многих системах распознавания процент таких ошибок по-прежнему высок. Если система распознавания лиц имеет, казалось бы, высокую точность 99 процентов, то это значит, что в Москве при поиске преступников «ковровым» распознаванием на улицах могут быть распознаны как разыскиваемые 120 тысяч человек.
Ситуация усугубляется тем, что значительное число ИИ-решений базируется на иностранных платформах. А это повышает риск закладок, недокументированных функций и удаленного управления со стороны разработчика платформы. Риск ошибок или выхода автономных систем с ИИ из-под контроля также существует. Есть вероятность, что автономная ИИ-система с автоматическим принятием решений в критически важных, ответственных областях в результате ошибки или недостаточного обучения примет решение, которое нанесет ущерб людям или критической инфраструктуре просто потому, что программных систем, на 100 процентов защищенных от ошибок, не существует.
— Как строить на нем новую экономику, если он такой опасный? Скажем, автономный пылесос с ИИ придет к выводу, что главный источник грязи и пыли в доме — это человек, а значит, нужно устранить причину, а не следствие. То есть убрать человека, а не убирать постоянно создаваемый им беспорядок. И будет абсолютно прав с логической точки зрения. Но это мелкий и частный пример. А как быть с большими экономическими моделями?
— Сначала пару слов о вашем примере. Робот-пылесос никаким образом не сможет убрать человека. Во-первых, он не знает, что так можно. Данные, на которых его обучали, вряд ли содержали подобные примеры. Во-вторых, он не имеет для этого технических приспособлений.
Что касается больших экономических моделей с ИИ, то они уже существуют. Называются они платформами. Первая полноценная платформа — вторичный рынок товаров и услуг eBay — появилась еще в 90-е годы прошлого века. Сегодня на платформенный принцип перешли социальные сети, интернет-магазины, различного рода сервисы и тому подобное. Наиболее часто в качестве примера платформ используются сервисы так называемой совместной рыночной экономики типа «Яндекс.Такси», Amazon и тому подобное.
Платформенная экономика — это экономика, основу которой составляют платформы, то есть онлайн-системы, являющиеся комплексными типовыми решениями в процессе взаимодействия пользователей. Существуют инновационные платформы, которые обеспечивают технологическую среду. Как правило, платформы позволяют пользоваться специфическими решениями, связанными с ними сервисами и так далее.
В России цифровые платформы получили широкое распространение в таких форматах, как платежные системы, платформы в сфере электронной торговли, финансов, образования, туризма. Онлайн-платформы используются во многих областях, таких как реклама, связь, розничная торговля, транспорт и туристические услуги.
В больших экономических моделях также имеются ошибки. Чем масштабнее модель, чем больше платформа, тем больше ошибок программного кода она будет содержать. Ошибки в коде могут быть разными, например, связанные с логикой программы или математическими вычислениями. При наличии ошибок платформа, скорее всего, будет работать некорректно. Принципиального решения этой проблемы пока нет, но есть несколько вариантов. Первый — расширять базу обучения и исправлять ошибки, если только мы знаем, где ИИ ошибется. Второй — заставить два ИИ обучать друга: один распознает ошибки, а другой пытается запутать первого. Правда, практика показала, что обучающийся ИИ начинает лучше распознавать ожидаемые ошибки и хуже неожиданные.
— Кстати говоря, как и в какие отрасли экономики он будет вписываться и уже вписывается?
— Потенциал искусственного интеллекта огромен. Исследователи сообщают, что лидером по количеству проектов с использованием ИИ является финансовая отрасль. Здесь технологии позволяют снизить издержки, минимизировать риски, предотвратить фрод, проверять заемщиков, оценивать их платежеспособность, осуществлять прогнозирование и так далее. Финансовый сектор всегда был в авангарде использования технологии, и еще 15 лет назад банки начали использовать искусственный интеллект для прогнозирования дефолтов с помощью самообучающихся нейронных сетей.
В ретейле основное направление внедрений ИИ связано с обслуживанием клиентов, оптимизацией логистики, инвентаризацией складских запасов, снижением затрат и прогнозированием спроса. Например, компания «М.Видео» внедрила у себя технологии искусственного интеллекта для улучшения клиентского сервиса через онлайн-магазин. Анализируется поведение клиента на сайте, переходы между страницами, просмотры разделов, система готовит персональные товарные рекомендации, которые направляет зарегистрированному пользователю по почте.
В страховании ИИ применяется для управления документооборотом, обработки клиентских данных, селекции рисков, борьбы с мошенничеством, определения персонализированных страховых услуг и распределения страховых выплат. Используется искусственный интеллект и в промышленности. В первую очередь обращает на себя внимание внедрение ИИ на Магнитогорском металлургическом комбинате. Запущенное решение помогает принять решение по диапазону химического состава сырья для стали для оптимизации качества и себестоимости продукции. Далее по подобной модели компания внедрила искусственный интеллект в производство шоколада и экстракцию золота.
Внедрение ИИ в здравоохранение обещает принести пациентам и врачам много преимуществ. Прежде всего сектор здравоохранения в целом был ориентирован на сбор точных и актуальных данных о пациентах и тех, кто обращается за помощью. Это делает искусственный интеллект подходящим для богатого данными мира здравоохранения.
ИИ в логистике может радикально изменить операции. Прогнозная аналитика может точно предсказать запасы, необходимые поставщику, и оптимизировать маршруты для минимизации накладных расходов. Судоходные компании получат большую выгоду от внедрения ИИ. Обычно проверка документов на таможенных постах задерживает процесс доставки. Сегодня судну требуется несколько рабочих дней, чтобы получить разрешение на отправку всех своих товаров. Алгоритмы распознавания изображений и интеллектуальная автоматизация могут помочь сотрудникам таможни более эффективно проводить проверки, сканируя соответствующие документы и переводя их в цифровую среду. Затем эти данные можно использовать для точного отслеживания поставок и сокращения времени, проведенного в портах. Благодаря преимуществам этой технологии мировая судоходная отрасль также внедрила ИИ, особенно прогнозную аналитику, для оптимизации экономики цепочки поставок.
Причина, по которой искусственный интеллект внедряется в таких больших масштабах в различные сферы экономики, связана с его способностью привносить интеллект в задачи, которые раньше не выполнялись.
«В последние годы ИИ имплантируют в различные типы автономных транспортных средств. Например, создаются системы, включающие центральный ИИ и роевые или стайные автономные транспортные средства, оснащенные датчиками и интерфейсами» Фото: Christiane Oelrich/dpa / www.globallookpress.com
«Сама логика развития ИИ ведет к тому, что возможности двойного использования будут постоянно увеличиваться»
— В свое время атом условно разделили на мирный и военный. Но взрыв в Чернобыле показал, что мирного атома в принципе не бывает и авария на АЭС — это взрыв той же атомной бомбы. Потому сейчас так кипят страсти вокруг Запорожской АЭС. ИИ тоже сегодня пытаются условно разделить на мирный и военный. Это возможно или будут прямые аналогии с атомом?
— ИИ — технология двойного назначения. Он может быть использован как для гражданских, так и для военных целей, поскольку некоторые задачи, требующие интеллекта, могут быть и в гражданской, и в военной областях. ИИ обладает свойством двоякого использования так же, как и человеческий интеллект. Скорее всего, сама логика развития ИИ ведет к тому, что возможности двойного использования будут постоянно увеличиваться. Многие задачи, которые в настоящее время автоматизируются, являются по своей сути двойственными. Например, ИИ, анализирующий программное обеспечение на уязвимости, может выполнять как наступательные, так и оборонительные функции. Все то же самое относится к стаям дронов, находящихся под управлением ИИ. Машинное обучение в одном случае будет, например, повышать качество доставки медикаментов в отдаленные районы, а в другом — точность доставки бомб на поле боя.
Системы ИИ обычно эффективны и масштабируемы. Мы говорим, что система ИИ является эффективной, если после обучения может решить определенную задачу быстрее и дешевле человека. Мы говорим, что система ИИ масштабируема, если она может выполнить определенную задачу за счет увеличения вычислительной мощности без качественного изменения программно-аппаратной основы.
ИИ — это технология тройного назначения, которая может быть использована как для гражданских, так и для военных целей. Отдельное направление использования ИИ — мафиозно-террористическое. Но, откровенно говоря, самое активное использование ИИ сейчас наблюдается в военных целях. Изучается множество разнообразных направлений его использования в сфере военного, финансово-экономического и поведенческого противоборства. Бо́льшая их часть засекречена, но есть и публичные. Они связаны с анализом разнородной структурированной и неструктурированной разноформатной, зашумленной и неполной информации. С использованием ИИ, в том числе для прогнозирования будущих событий, таких как террористические атаки, гражданские беспорядки, финансово-экономические, политические и военные кризисы и тому подобное. Также ИИ активно используется для разработки алгоритмов одновременного многоязычного распознавания речи и перевода акустической речи в тексты с уровнем, превосходящим применяющиеся в настоящее время системы машинного перевода.
У ИИ может быть многообещающее будущее в сфере военной логистики. Например, ВВС США используют ИИ для составления графиков обслуживания летательных средств, включая графики дозаправки в воздухе и проведения ремонта. Вместо того чтобы осуществлять дорогостоящий ремонт, когда самолет или вертолет выходит из строя из-за поломок, ИИ разработал модели, позволяющие проводить предупредительное техническое обслуживание воздушных судов.
Активно ИИ используется в киберпространстве. Например, для мгновенного обнаружения аномалий и дыр в киберзащите. Представляется, что именно ИИ с его быстродействием позволит наиболее эффективно управлять боевыми киберплатформами.
Как известно, одной из наиболее сложных в практическом плане задач является сохранение управляемости и поддержание взаимодействия командования и боевых единиц в ходе реальных военных действий. Строго говоря, противник наносит удары не только на поле боя, но и по центрам командования. До настоящего времени ни в одной стране мира, насколько известно, не создана система регенерации командования и контроля в жестких конфликтах. Регенеративная система должна быть организована таким образом, чтобы после выхода из строя тех или иных узлов и уровней командования система перестраивалась и в новой конфигурации сохраняла высокий уровень управления и координации.
В последние годы ИИ имплантируют в различные типы автономных транспортных средств. Например, создаются системы, включающие центральный ИИ и роевые, или стайные, автономные транспортные средства, оснащенные датчиками и интерфейсами. Они, в свою очередь, позволяют перейти от индивидуального к коллективному машинному обучению. Создаются полноценные беспилотные истребители и самолеты-штурмовики, не уступающие, а по ряду параметров превосходящие такие же самолеты, пилотируемые людьми. Испытываются прототипы сухопутных автономных транспортных средств, в том числе оснащенных средствами огневого поражения.
Многие задачи, которые в настоящее время автоматизируются, являются по своей сути двойственными и даже тройственными. Например, ИИ, анализирующий программное обеспечение на уязвимости, может выполнять функции киберзащиты, кибердиверсий и киберпреступлений. Все то же самое относится к стаям дронов, находящихся под управлением искусственного интеллекта.
«Существует концепция развития регулирования отношений в сфере технологий ИИ и робототехники на период до 2024 года» Фото: Friso Gentsch/dpa / www.globallookpress.com
«Искусственный интеллект в ближайшие годы вызовет жгучий интерес у криминала»
— Вы как-то говорили, что любую новую технологию можно условно разделить на гражданскую, военную и криминальную. Какова опасность криминального использования ИИ и новых цифровых технологий? Есть вероятность того, что какой-нибудь чокнутый профессор типа Шурика, сделавшего дома машину времени и убиравшего любые стенки, или условный инженер Гарин захотят создать некий цифровой гиперболоид и получить с его помощью власть над миром или нечто в этом роде?
— Угрозы могут исходить как от самого искусственного интеллекта, так и от злоумышленников, в руки которых он может попасть. Существует две причины, по которым искусственный интеллект в ближайшие годы вызовет жгучий интерес у криминала. Первая — уровень оснащенности программно-аппаратными комплексами самого различного типа квартир, корпораций и государственного сектора является беспрецедентным. Вторая причина притягательности ИИ для криминального сообщества — это незащищенность киберпространства. Если страна может положить конец нелегальной миграции, то в киберпространстве, увы, стену не построишь.
Между тем динамика такова, что из года в год доля компьютерных преступлений, а точнее, преступлений, осуществленных в киберпространстве, в общем объеме преступности неуклонно растет. Преступность необратимо уходит в киберпространство. При этом необязательно, чтобы само преступление совершалось в «виртуале». С появлением «интернета всего» киберпространство все чаще используется для совершения традиционных преступлений при помощи нетрадиционных орудий и методов. Чаще всего ИИ применяется для имплантации вредоносного софта в платежные системы, в основном использующие протокол блокчейн и имеющие Р2Р-архитектуру. Программы искусственного интеллекта в данном случае крайне важны. Они позволяют использовать методы глубокого обучения нейронных сетей для взлома и перепрограммирования платежных протоколов, построенных на блокчейне. Исследования показывают, что программы ИИ справляются с этой задачей эффективнее, чем люди-программисты.
В настоящее время в крупнейших финансовых институтах торговые операции осуществляются роботизированными платформами, базирующимися на последних достижениях ИИ. Высокотехнологичный киберкриминал извлекает прибыль из торговых операций крупнейших финансовых институтов. Это наиболее прибыльная, хотя и достаточно рискованная сфера организованной киберпреступности. В этой связи использование преступными группами искусственного интеллекта для операций на финансовых рынках путем проникновения и компрометации торговых платформ является для них лучшим решением.
Еще одна из сфер использования ИИ многократно описана в фантастических романах и рассказах. Идея использовать робота как орудие убийства совершенно тривиальная. Первым человеком, погибшим от робота, стал американский рабочий Роберт Уильямс в 1970-е годы. Он работал на автоматизированном предприятии, выполнявшем покрасочные работы для автомобильной индустрии. В результате нарушения программы, отвечающей за координацию автоматических манипуляторов одного из роботов, последний вместо дверцы схватил за шею рабочего и удушил его. Вполне вероятно, например, появление подпольного синдиката, специализирующегося на заказных высокотехнологичных убийствах, замаскированных под технические инциденты различного рода. Главным инструментом подобных синдикатов должны быть не хакерские программы сами по себе, а искусственный интеллект. Только ИИ под силу замаскировать злонамеренное отключение или выполнение несанкционированных действий техническим отказом.
— Как такому противостоять? Кто будет это делать? Касперский один явно не справится. Может, нужна будет какая-то цифровая полиция?
— Как противостоять криминалу с искусственным интеллектом? Использовать новые информационные технологии, все тот же искусственный интеллект. Его применение позволит перейти от аналитической к прогностической работе, где главным продуктом является не анализ того, что произошло, а прогноз на будущее. Именно с прогнозированием на основе современных информационных технологий и прежде всего искусственного интеллекта полиция связывает свои надежды. ИИ наиболее эффективно может быть использован для прогнозирования криминальных актов, моделирования поведения преступников и распознавания признаков подготовки к преступлениям, для создания моделей индикаторов, свидетельствующих о степени уязвимости того или иного субъекта или объекта к преступным действиям, а также его привлекательности для криминала.
Что касается практического использования полицейскими ИИ в повседневной деятельности, то известно несколько программно-аппаратных комплексов, задействованных в подобной работе. Самый известный — американский Palantir. Уже сейчас ни одно преступление не совершается без использования информационно-коммуникационных технологий. Поэтому каждый современный полицейский должен обладать необходимыми знаниями по борьбе с высокотехнологичной преступностью.
— Сейчас ИИ пытаются активно применять в борьбе с коррупцией, что для нашей страны более чем актуально. Так, например, система OCEANO анализировала данные с помощью ИИ, технологии которого помогают в борьбе с коррупцией по всему миру. В Бразилии в 2017 году появился проект Operação Serenata do Amor с алгоритмом Rosie, изучающим парламентские расходы депутатов и сенаторов. А один из крупнейших мировых пивоваров — компания AB InBev — на специальной платформе Operation BrewRIGHT, отслеживая потоки своей информации методом машинного обучения, вычисляет незаконные платежи и недобросовестных деловых партнеров. Как вы оцениваете этот опыт? Каково его будущее у нас? Может быть, для нас методы ИИ в противодействии коррупции не просто важны, а единственно возможны, как вы считаете?
— Коррупция представляет угрозу национальной безопасности и наносит значительный ущерб социально-экономическому развитию страны. Она носит массовый характер, затрагивает все сферы человеческой деятельности. Противодействие коррупции является одной из приоритетных задач государственной политики. Многие страны мира занимаются развитием ИИ, чтобы в будущем можно было использовать новые эффективные методы в борьбе с коррупцией, которые заменят прежние методы, потерявшие свою эффективность. Мы, бесспорно, должны развивать новые технологии в области ИИ и адаптировать его к борьбе с коррупцией, которую хоть и невозможно искоренить навсегда, но можно снизить уровень коррупционных преступлений. И обязательно нужно использовать положительный опыт других стран, уже применяющихх ИИ в борьбе с коррупцией. Однако, как сообщают СМИ, в прошлом году был подписан указ президента Владимира Путина об антикоррупционной системе «Посейдон». В документе сказано, что государственная информационная система в области противодействия коррупции «Посейдон» создана для повышения эффективности деятельности по профилактике коррупционных и иных правонарушений. «Посейдон» будет иметь доступ к самой разной информации: официальным базам, социальным сетям, внутренним документам. Искусственный интеллект должен искать все пересечения и совпадения, анализируя сведения из реестров собственности, изучая фотографии в соцсетях, родственные связи. Система смотрит, где и сколько денег потратил чиновник. Так можно выявить нестыковки в доходах и расходах. Опять же, по сообщениям СМИ, похожая программа уже работает в «Росатоме».
— В США создан и работает центр безопасности ИИ. Китай активно разрабатывает уже второй пакет законодательства, регулирующего ИИ в стране. У нас делается нечто подобное?
— Сейчас в России нет законодательной базы, регулирующей отношения в области ИИ. Даже понятие «искусственный интеллект» на законодательном уровне в Российской Федерации не дается. Что, впрочем, не мешает его использовать. Правительство РФ планирует утвердить правила использования искусственного интеллекта. С 2020 года в Москве проходит эксперимент по установлению правового регулирования создания условий для разработки и внедрения технологий ИИ. С 2021-го 160 организаций из разных регионов присоединились к кодексу этики в этой сфере. Кроме того, существует концепция развития регулирования отношений в сфере технологий ИИ и робототехники на период до 2024 года. В ней затрагиваются вопросы регулирования оборота данных, юридической ответственности в случае применения ИИ, информационная безопасность, а также возможность применения таких технологий в разных сферах экономики. Так что законодательство пока ждем.
«Нейросеть — это компьютерная программа, способная к обучению. Одним из самых интересных примеров нейронной сети является ChatGPT — система, разработанная OpenAI, которая способна генерировать текст на основе заданной подсказки» Фото: Philipp von Ditfurth/dpa / www.globallookpress.com
«Даже разработчики перестали понимать, почему программа делает именно такие выводы, а не иные»
— Давайте более подробно поговорим о нейросетях. Достаточно вспомнить совсем недавний случай, когда студент из Москвы обманул преподавателей и защитил диплом, написанный нейросетью ChatGPT. Что это такое? Каково их будущее? У нас над ними идет работа? Каковы ее успехи?
— Нейросеть — это компьютерная программа, способная к обучению. Перед ней можно поставить практически любую задачу. И если сначала показать машине тысячу-другую верных решений, то затем она научится находить правильный ответ самостоятельно. За нейронными сетями стоит сложная математика. При этом модель компьютерной сети построена по принципу работы нервных клеток человека, то есть биологических нейронных сетей. Это ресурсоемкая задача как по вычислительной мощности, так и в плане подготовки огромного объема необходимых данных. Главная проблема в том, что с массовым применением в программировании метода нейронных сетей даже разработчики перестали понимать, почему программа делает именно такие выводы, а не иные.
Для того чтобы объяснить коллизию, придется в нескольких словах охарактеризовать отличие нейронных сетей от обычной программы. Последняя может быть записана на бумаге как последовательность операций. Мы всегда знаем причинно-следственную связь. Нейронная сеть — это самосовершенствующаяся программа. В ней задается исходно только архитектура и правила изменения удельных весов при принятии решения. Все остальное делает алгоритм. Грубо говоря, нейронные сети — это те самые пресловутые «черные ящики». Известна только информация на входе и на выходе.
Одним из самых интересных примеров нейронной сети является ChatGPT — система, разработанная OpenAI, которая способна генерировать текст на основе заданной подсказки. ChatGPT был обучен на наборе данных из более чем 8 миллиардов слов, включая широкий спектр текстов из книг, статей и веб-сайтов. Это позволяет ему понимать структуру и стиль человеческого языка и генерировать естественные и связные ответы. Уникальной особенностью ChatGPT является возможность продолжить разговор на основе предыдущих обменов. Это означает, что он может «запоминать» то, что было сказано ранее, и основываться на этом, создавая более плавный и реалистичный разговор. Хотя ChatGPT по-прежнему остается машиной и не может по-настоящему понимать слова или испытывать эмоции, он способен имитировать человеческий разговор таким образом, что часто получается убедительно и увлекательно.
Подобные модели обладают огромным потенциалом. Машинное обучение, от которого раньше ожидали решения только рутинных задач, доказало свою способность к сложной творческой работе. Нейросети регулярно совершенствуются, и появляются новые версии, а технологические усовершенствования происходят все быстрее и быстрее. Это открывает широкие возможности для решения многих социальных задач, но одновременно это также может содержать большое количество криминальных рисков, поскольку преступники сразу стали использовать их в своих целях.
Например, ChatGPT можно использовать для изучения огромного количества потенциальных областей преступлений без предварительных знаний, начиная от способов проникновения в дом, заканчивая терроризмом, киберпреступностью и сексуальным насилием над детьми. Способность ChatGPT составлять высокоаутентичные тексты на основе подсказок пользователя делает его очень полезным инструментом для фишинга. Если раньше многие элементарные фишинговые аферы было легче распознать из-за очевидных грамматических и орфографических ошибок, то теперь можно выдать себя за организацию или частное лицо в весьма реалистичной манере даже при базовом знании английского языка, на котором обучена модель. ChatGPT может предложить преступникам новые возможности для преступлений, связанных с социальной инженерией, особенно учитывая ее способность отвечать на сообщения в контексте и принимать специфический стиль письма. Кроме того, различные виды онлайн-мошенничества можно сделать более «легитимными», используя ChatGPT для создания поддельных социальных сетей, например для продвижения мошеннического инвестиционного предложения.
ChatGPT превосходно справляется с созданием аутентичного звучащего текста на скорости и в масштабе. Это делает модель идеальной для целей пропаганды и дезинформации. Она позволяет пользователям генерировать и распространять сообщения, отражающие определенный нарратив, с относительно небольшими усилиями. Например, ChatGPT может использоваться для создания онлайн-пропаганды от имени других субъектов для продвижения или защиты определенных взглядов, которые были развенчаны как дезинформация или фальшивые новости.
У нас тоже есть подобные системы. Например, GigаСhat от Сбера, FractalGPT от компании «Аватар Машина», SistemmaGPT от компании Sistemma. В 2023 году «Яндекс» заявил, что разрабатывает новую нейросеть YaLM 2.0.
— И последний вопрос. Человекообразные роботы с ИИ. Вспомним известный фильм «Искусственный разум» 2001 года. Ведь мы уже идем по этому пути. Достаточно сказать, что гиноид (человекоподобный робот в виде женщины) София в 2017-м стала подданной Саудовской Аравии и первым роботом, получившим гражданство какой-либо страны. Не получится ли так, что через какие-нибудь 8–10 лет мужчины перестанут жениться на живых женщинах, которые «выносят мозг», а женщины выходить замуж за мужчин, которые «валяются на диване и дуют пиво», а предпочтут искусственный разум, запрограммированный под безграничную любовь к ним и удовлетворение их потребностей и фантазий? И дети будут искусственные, вечно маленькие и вечно милые. Что нас тогда ждет — вырождение?
— Я отлично помню историю с Софией. Она получила гражданство Саудовской Аравии. Но с тех пор больше ни один робот не получил гражданства какой-либо страны. Да и София не получила гражданства других государств. Почему?
Крупнейшие публичные компании активно вкладываются в сервисы на основе технологии ИИ. Для частного инвестора, следящего за технологическими трендами, это хорошая возможность заработать. Искусственный интеллект, без сомнения, одна из самых модных тем современности. Об этой технологии говорят и ее внедряют во все сферы жизни — от транспорта и промышленности до образования и культуры. Применение ИИ, в отличие от многих других технологий, практически не ограничено — ведь автоматизация возможна почти во всем.
Разговоры о беспилотных автомобилях уже стали привычными — над автоматизацией работают все крупные автопроизводители. Появление полностью беспилотных такси, которые, например, смогут захватить вас по пути с работы, лишь вопрос времени. Умные дома уже в значительной степени стали реальностью. И тогда София от Hanson Robotics становится первым в мире роботом, получившим гражданство в рамках программы, согласно которой Саудовская Аравия станет центром инвестиций по поддержке компаний информационных технологий. Это событие спровоцировало споры, так как некоторые комментаторы начали задаваться вопросами, подразумевало ли это, что София может голосовать или вступать в брак и можно ли считать преднамеренное отключение робота убийством. Пользователи социальных сетей использовали данное событие для того, чтобы критиковать ситуацию с правами человека в Саудовской Аравии. Событие вызвало скандал в Саудовской Аравии, так как во время конференции и объявления о гражданстве София находилась с непокрытой головой и лицом, без хиджаба и без мужчины-опекуна. Скандал имел в том числе и финансовый эффект. Благодаря ему многие компании, занимающиеся разработками в области ИИ, успешно привлекли инвестиции для своих проектов. Спасибо Софии.
Кстати, уже выпущено 13 копий Софии, потому что ее лицо сделано из материала, который быстро изнашивается. В этой связи я уверена, что вырождение нам пока не грозит.
Е.С. Ларина
https://www.business-gazeta.ru/article/615645
08.12.2023 Тест Тьюринга: человек против ИИ.
|
|
Усовершенствование программ на основе искусственного интеллекта, является ли их использование благом. Будущее нейросетей. История создания программы Элиза. Подведение итогов теста Тьюринга. Кто победил - человек или искусственный интеллект. Точка сборки
Масалович (КиберДед) объявлен врагом американского государства и мишенью для специалистов из Meta (признана в России экстремистской и запрещена). Последние заявляют, что его система Avalanche для слежки и сканирования сети используется в целях наблюдения за деятельностью экоактивистов, журналистов и общественных организаций. В феврале имя КиберДеда оказалось в очередном санкционном списке, Минфин США заявил, что Масалович помогал Кремлю в «атаке на демократию в Соединенных Штатах, Украине и других странах», добавив, что Белый дом «примет меры к тому, чтобы стремящиеся к экспорту авторитаризма в его российской версии не могли делать это безнаказанно»...
25.11.2023 Есть ли будущее у человечества? Искусственный интеллект , цифровые деньги и вообще - куда мы идем?
|
|
Многих пугает повальная цифровизация. Боты заменяют привычные профессии. Внедряется цифровой рубль. Действительно ли это всё может загнать человека в «цифровой концлагерь» и поработить или пока не получится у компьютера победить живой мозг? КиберДед Андрей Масалович и журналист Михаил Кокорев рассуждают на тему развития искусственного интеллекта.
25.09.2023 Китай - США: битва интеллектов
ИИ как универсальное оружие
В США растёт обеспокоенность тем, что недавние инициативы Министерства обороны США по развитию технологий ИИ и существующие процессы могут оказаться недостаточными для решения насущных задач. А также то, что запланированный уровень изменений недостаточен и что министерство рискует скатиться на путь рискованного «постепенного подхода». Запланированные изменения, такие как создание целевой группы по генеративному искусственному интеллекту или усилия по проведению обширного обучения искусственному интеллекту и обучению сотрудников Министерства обороны США, — это долгосрочные инвестиции, которые не принесут немедленных результатов. Это делает Соединенные Штаты потенциально уязвимыми в краткосрочной перспективе, поскольку Китай продолжает быстро наращивать силы, чтобы свести на нет текущие оперативные преимущества США.
Стремясь первыми в мире обладать самыми передовыми формами искусственного интеллекта, сохраняя при этом контроль над более чем миллиардом человек, элитные китайские учёные и их правительство обратились за вдохновением к чему-то новому и очень старому — человеческому мозгу.
Подробно с этим попытался разобраться Newsweek 18 сентября 2023 года.
1. В Китае близки к созданию Общего – когнитивного ИИ
В рамках одной из тысяч предпринимаемых усилий они создают «городской мозг» для улучшения компьютеров в ядре «умных городов», которые уже сканируют страну от широких проспектов Пекина до улиц маленьких городков, собирая и обрабатывая терабайты информации - от сложных сетей датчиков, камер и других устройств, которые отслеживают дорожное движение, человеческие лица, голоса и походку и даже ищут «сборы драк».
Оснащенный возможностями наблюдения и визуальной обработки, смоделированными на человеческом зрении, новый «мозг» будет более эффективным, менее энергоемким и «улучшит управление», заявляют его разработчики. «Мы называем это бионическими вычислениями сетчатки», — написал Гао Вэнь, ведущий исследователь искусственного интеллекта, в статье «Городской мозг: проблемы и решения».
Работа Гао и его передовой лаборатории Пэн Чэн в южном городе Шэньчжэнь представляет собой гораздо больше, чем просто стремление Китая расширить все более всеобъемлющий мониторинг своих граждан: это также показатель решимости Китая выиграть гонку за то, что известен как общий искусственный интеллект.
Это ИИ, который может не только перехитрить людей при решении огромного количества задач и дать тому, кто его контролирует, огромное стратегическое преимущество, но также вызвал предупреждения экспертов на Западе о потенциальной угрозе существованию цивилизации, если он перехитрил своих хозяев-людей и вышел из-под контроля.
Статья Гао — лишь одна из примерно 1000 статей, просмотренных Newsweek , которые показывают, что Китай продвигается вперед в гонке за общий искусственный интеллект, что является шагом вперед по сравнению с большими языковыми моделями, такими как Chat GPT или Bard, которые уже штурмуют общество своей способностью генерировать текст и изображения и быстро находить огромные объемы информации.
«Общий искусственный интеллект — это «атомная бомба» информационного поля и «победитель игры» в соревновании между Китаем и Соединенными Штатами», — заявил в июле 2023 года в своем родном городе Эчжоу в Ухане другой ведущий китайский ученый в области искусственного интеллекта Чжу Сунчун. в провинции Хубэй, сообщает Jingchu Net, онлайн-сайт газеты Hubei Daily - СМИ КПК.
Точно так же, как в 1950-х и 60-х годах, когда китайские ученые круглосуточно работали над созданием атомной бомбы, межконтинентальной ракеты и спутника, «нам необходимо разработать ИИ по принципу «две бомбы и один спутник» и сформировать «армию высшего уровня» ИИ, которая представляет национальную волю», — сказал Чжу.
Китай стремится стать мировым лидером в области искусственного интеллекта к 2030 году. Эта цель четко сформулирована в официальном «Китайском мозговом проекте», объявленном в 2016 году. Искусственный интеллект и наука о мозге также являются двумя из полдюжины «передовых областей», названных в 15-летнем национальном научный план, рассчитанный на 2021–2035 годы.
Женщина сканирует свой ноутбук перед изображением сетки искусственного интеллекта над Великой Китайской стеной во время Всемирной конференции по искусственному интеллекту (WAIC) в Шанхае в июле 2023 года.
В докладе, опубликованном в августе вашингтонским футуристическим аналитическим центром, предупреждается о серьезной опасности для человечества, исходящей от искусственного интеллекта.
Есть искусственный интеллект, а есть искусственный интеллект.
Существуют серьезные различия между используемыми сейчас системами «узкого искусственного интеллекта», которые не могут «думать» самостоятельно, но могут выполнять такие задачи, как написание курсовой работы человека или идентифицировать его лицо, и более амбициозным искусственным общим интеллектом, который однажды сможет справляются со многими задачами лучше, чем люди.
Американские ученые также работают над AGI, хотя усилия в основном разрознены, в отличие от Китая, где исследовательские институты, занимающиеся этим вопросом, получили многие сотни миллионов долларов государственного финансирования, говорят западные ученые в области искусственного интеллекта, которые работали со своими китайскими коллегами в передовых разработках, но которые попросили не называть их имени из-за политической чувствительности вокруг этой темы.
В докладе, опубликованном в августе 2023 года The Millennium Project, вашингтонским футуристическим аналитическим центром, который предупреждает о серьезной опасности для человечества со стороны AGI, эксперт по искусственному интеллекту Джеффри Хинтон заявил, что его ожидания относительно того, когда это может быть достигнуто, недавно упали с 50 лет до менее более 20, а возможно, и всего пять.
«Мы можем быть близки к тому, чтобы компьютеры выдвинули свои собственные идеи по самосовершенствованию, и это может произойти очень быстро. Нам нужно хорошенько подумать о том, как это контролировать», — сказал Хинтон.
Основное различие между Западом и Китаем заключается в публичных дебатах по поводу опасностей, которые может представлять собой ИИ, в том числе очень продвинутый.
«Лаборатории искусственного интеллекта безрассудно спешат создавать все более и более мощные системы, не имея надежных решений, которые могли бы сделать их безопасными», — сказал Newsweek Энтони Агирре из американского Института будущего жизни, имея в виду в основном работу в США. Более 33 000 ученых подписали контракт призыв института в марте о шестимесячной паузе в некоторых разработках ИИ, однако он остался без внимания.
Лишь немногие подобные экзистенциальные опасения выражаются публично в Китае.
В апреле 2023 года китайский лидер Си Цзиньпин заявил Политбюро: «Подчеркните важность общего искусственного интеллекта, создайте инновационную систему для него», согласно сообщению государственного информационного агентства «Синьхуа». Си Цзиньпин часто призывал китайских учёных развивать ИИ быстрыми темпами — по крайней мере 13 раз за последние годы. Си Цзиньпин также сообщил Политбюро, что ученые должны обращать внимание на риск, однако пока основной риск, связанный с ИИ, о котором упоминают в Китае, носит политический характер: в новом законе, принятом в августе 2023 года, на первое место ставится правило, согласно которому ИИ «должен придерживаться основных социалистических ценностей».
Ли Чжэн, исследователь Китайского института современных международных отношений в Пекине, написал в июле 2023 года, что Китай «больше озабочен национальной безопасностью и общественными интересами», чем ЕС или США.
«США и страны Запада уделяют больше внимания борьбе с предвзятостью и дискриминацией в этике ИИ, пытаясь избежать воздействия алгоритмической дискриминации на интересы этнических меньшинств и маргинализированных групп», — написал Ли в китайскоязычном издании Global .
Институт Ли принадлежит Министерству государственной безопасности КНР.
Масштабы китайских исследований в области искусственного интеллекта были подчеркнуты в исследовании Джорджтаунского центра безопасности и новых технологий под названием «Китайские исследования когнитивного искусственного интеллекта», в котором был сделан вывод, что Китай находится на правильном пути, и содержится призыв к более тщательному изучению усилий Китая со стороны США.
«Исследования в области когнитивного искусственного интеллекта в Китае улучшат его способность использовать роботов, принимать более разумные и быстрые решения, ускорять инновации, осуществлять операции влияния и надежно выполнять другие функции высокого уровня с большей автономией и меньшими вычислительными затратами, повышая глобальный риск ИИ и стратегические задачи. другим странам», — заявили авторы в июльском (2023 года) исследовании.
Ребенок тянется к роботу на Всемирной конференции по искусственному интеллекту в Шанхае в июле 2023 года. Китай работает над слиянием человека и робота и созданием интерфейсов мозг-компьютер в рамках своих амбициозных планов по реализации общего искусственного интеллекта.
Изучив тысячи китайских научных работ по ИИ, опубликованных в период с 2018 по 2022 год, группа авторов выявила 850 из них, которые, по их словам, показывают, что страна серьезно занимается разработкой ИИ, в том числе с помощью науки о мозге — цели, выделенной в нынешнем пятилетнем плане Китая.
Исследования включают в себя:
исследования зрения, вдохновленные наукой о мозге, такие как исследование Гао;
восприятие, направленное на познание;
исследования по распознаванию образов8
исследования того, как имитировать нейронные сети человеческого мозга в компьютерах;
усилия, которые в конечном итоге могут привести к созданию гибридов человека и робота, например, размещение крупномасштабной симуляции мозга на теле робота.
Иллюстрируя это, в репортаже государственной телекомпании CCTV, опубликованном в конце 2022 года, было показано, как робот манипулирует дверной ручкой, чтобы открыть шкаф, а ученый объяснил, что «камера глубины», прикрепленная к его плечам, также может «распознавать телосложение человека и анализировать его телосложение». намерения, основанные на этой визуальной информации».
Примечательно, что исследователи из Джорджтауна заявили: «В китайских газетах было необычно большое количество статей по распознаванию лиц, походки и эмоций», а также по анализу настроений, предсказанию «ошибочного» поведения и военному применению.
В дополнение к статьям, выявленным в исследовании, другие, просмотренные Newsweek , исследовали соответствие ценностей человека и робота, «Аффективные вычисления, основанные на миндалевидном теле» (имеется в виду небольшая часть мозга, которая обрабатывает страх), промышленные приложения, такие как «Замкнутый цикл интерфейс «мозг-компьютер» с обратной связью дополненной реальности для промышленного сотрудничества человека и робота», а с июля 2023 года — «BrainCog: основанная на резкой нейронной сети система когнитивного интеллекта, вдохновленная мозгом, для искусственного интеллекта и моделирования мозга, вдохновленного мозгом».
Предстоящее исследование американских исследователей будет сосредоточено на использовании Китаем «интерфейса мозг-компьютер» для повышения когнитивных способностей здоровых людей, что, по сути, означает формирование их интеллекта и, возможно, даже, учитывая политическую среду в Китае, их идеологию.
Некоторые ученые считают AGI недостижимой научной фантастикой. Но Макс Ризенхубер, содиректор Центра нейроинженерии Медицинского центра Джорджтаунского университета, считает, что Китай находится на пути, который имеет больше шансов на успех, чем большие языковые модели, такие как ChatGPT, текущая озабоченность на Западе.
«ChatGPT по замыслу не может двигаться вперед и назад в своих рассуждениях, он ограничен линейным мышлением», — сказал Ризенхубер в интервью.
В Китае «существует очень разумное осознание того, что LLM являются ограниченными моделями реального интеллекта. Верный способ достичь настоящего интеллекта — это реконструировать человеческий мозг, который является единственной интеллектуальной системой, о которой мы знаем», — сказал Ризенхубер. .
Он предупредил, что неясно, добьется ли кто-нибудь, включая Китай, успеха в создании ИИ следующего уровня. «Однако приближение к реальности уже принесет свои плоды», — сказал он.
В речах и государственных документах, с которыми ознакомился Newsweek , китайские чиновники заявляют, что стремятся к «преимуществу первопроходца» в сфере AGI. Ученые говорят, что потенциально самовоспроизводящаяся природа ИИ означает, что это может дать им постоянное преимущество.
«Общий искусственный интеллект — это первоначальная и конечная цель исследований в области искусственного интеллекта», — заявил Чжу, основатель и директор ведущего китайского института AGI, Пекинского института общего искусственного интеллекта (BIGAI), на онлайн-мероприятии в начале 2023 года. «Я специально решил использовать AGI как часть названия учреждения, чтобы отличить его от специализированного искусственного интеллекта», такого как «распознавание лиц, обнаружение объектов или перевод текста», — сказал Чжу.
Чжу, как и многие другие ведущие ученые в области искусственного интеллекта в Китае, является бывшим студентом и профессором университетов США.
Стремление Китая к созданию AGI получило поддержку государственной политики на высшем уровне в 2017 году, когда правительство опубликовало «План развития искусственного интеллекта нового поколения», проложивший путь к лидерству в этой области в глобальном масштабе к 2030 году.
Публичные документы, с которыми ознакомился Newsweek, свидетельствуют о широкой и глубокой официальной поддержке. В мае 2023 года видно, что Муниципальная комиссия по науке и технологиям Пекина подписала двухлетнюю программу по позиционированию города как мирового лидера в исследованиях AGI со значительными государственными субсидиями.
Пекин сосредоточится на «мозгоподобном интеллекте, воплощенном интеллекте… и создаст просвещенные большие модели и общий интеллект», говорится в сообщении. Строительство «Пекинского инновационного парка искусственного интеллекта» площадью один миллион квадратных футов должно быть завершено в конце 2024 года.
Роботы выстроились на Всемирной конференции по искусственному интеллекту (WAIC) в Шанхае в июле 2023 года. Китайские исследования включали изучение того, как имитировать нейронные сети человеческого мозга в компьютерах, а также усилия, которые в конечном итоге могут привести к созданию гибридов человека и робота например, путем размещения крупномасштабной симуляции мозга на теле робота.
Центром исследований является северо-западный пекинский университетский район Хайдянь Чжунгуаньцунь, китайская «Силиконовая долина». Помимо BIGAI, в столице находится Пекинская академия искусственного интеллекта (BAAI), а также университеты Пекина и Цинхуа, которые также активно занимаются исследованиями в области искусственного интеллекта. Центры взаимосвязаны.
По мнению правительства округа, такая концентрация исследований, разработок и коммерческой деятельности создаст «точку ядерного взрыва» для развития общего искусственного интеллекта. Власти района и города не ответили на запросы о комментариях.
Другие ключевые места проведения исследований включают Ухань, Шанхай, Шэньчжэнь, Хэфэй, Харбин и Тяньцзинь.
Перспектива разработки сверхразумных искусственных интеллектов вызывает огромные опасения по поводу безопасности, говорит Ник Бостром, директор Института будущего человечества Оксфордского университета, отвечая на вопрос о работе Китая над искусственным интеллектом.
«У нас пока нет надежных методов масштабируемой настройки ИИ. Поэтому, если сегодня будет разработан общий машинный сверхинтеллект, мы, возможно, не сможем обеспечить его безопасность и контроль», — сказал Бостром Newsweek .
ИИ в том виде, в котором он есть сегодня, уже достаточно озабочен своим потенциалом для разработки усовершенствованного химического или биологического оружия, киберпреступности, автоматических роев дронов или его использования для тоталитарного угнетения, а также для пропаганды или дискриминации, отметил он.
«В конечном счете, мы все сидим в одной лодке в отношении наиболее серьезных рисков, связанных с ОИИ. Таким образом, в идеале было бы, чтобы вместо того, чтобы ссориться и драться на палубе во время приближающегося шторма, мы работали вместе, чтобы привести судно в порядок», — сказал Бостром.
Другие поставили под сомнение вероятность соблюдения соглашения об этической реализации, даже если оно будет согласовано на глобальном уровне.
«Этические соображения, несомненно, являются важным аспектом регулирования ИИ в Китае. Однако остается неясным, есть ли у регулирующих органов возможность или желание строго обеспечивать соблюдение правил, связанных с этикой», — сказала Анджела Чжан, директор Центра китайского языка в Университете Гонконга.
«Учитывая преобладающие политические проблемы, я не верю, что этические соображения станут доминирующим фактором в будущих решениях Китая по регулированию ИИ», — сказал Чжан.
Несмотря на это, она сказала, что необходимо попытаться добиться соглашения между Китаем и США как ведущими мировыми центрами искусственного интеллекта, и выразила надежду, что это возможно.
«Это будет упущенная возможность не привлечь Китай к установлению универсальных правил и стандартов для ИИ», — сказал Чжан.
Западный эксперт по искусственному интеллекту, который общается с китайскими учеными и политиками в области искусственного интеллекта, сказал, что, хотя китайские чиновники заинтересованы в международных мерах по безопасности или в международном органе по регулированию искусственного интеллекта, они должны участвовать в установлении правил, иначе эти усилия наверняка потерпят неудачу.
В заявлении для Newsweek Лю Пэнъюй, представитель посольства Китая в США, ясно дал понять, что Китай хочет играть «широкую» роль в будущем регулировании ИИ. «В принципе, Китай считает, что развитие ИИ приносит пользу всем странам, и все страны должны иметь возможность активно участвовать в глобальном управлении ИИ», — сказал Лю.
2. Китай вытесняет преимущество армии США в сфере технологий
Статью с таким названием опубликовал The HILL (18.09.2023).
Пекин взял на себя обязательство создать полностью современную армию к 2027 году, несмотря на то, что Вашингтон предпринимает шаги по ограничению доступа Китая к американским технологиям, которые помогут сделать это возможным. Однако, чтобы действительно изменить ситуацию, Америке необходимо осознать роль разработки проектов с открытым исходным кодом в полупроводниковой промышленности.
Одним из тревожных для США примеров является разработка Китаем RISC-V - архитектуры проектирования микросхем с открытым исходным кодом, которая может служить множеству конечных приложений. Технология RISC-V имеет приложения двойного назначения, обеспечивая работу таких инструментов, как искусственный интеллект (ИИ), автономные системы и технологии наблюдения.
До сих пор мало внимания уделялось инфраструктуре чипов с открытым исходным кодом или заинтересованности Пекина в лидерстве в производстве чипов с открытым исходным кодом, что в конечном итоге уменьшит его зависимость от чипов, контролируемых Западом. Несмотря на то, что недавние конкурентные действия США против Китая, такие как экспортный контроль и проверка исходящих инвестиций, предприняли некоторые шаги по контролю доступа Пекина к передовым полупроводниковым технологиям, правительству США по-прежнему необходимо наметить стратегию, которая позволит закрыть существующие лазейки вокруг открытых технологий.
Полупроводниковые чипы являются основой повседневной электроники, и то же самое можно сказать и об их важности для военных систем. От дронов и истребителей до автономных транспортных средств и устройств связи — чипы являются инструментом, обеспечивающим работу всего этого.
Независимая комиссия, созданная Конгрессом, недавно пришла к выводу, что «если потенциальный противник опередит Соединенные Штаты в производстве полупроводников в долгосрочной перспективе или внезапно полностью лишит США доступа к новейшим чипам, он может одержать верх во всех сферах войны».
Китай открыто пытается обойти американские правила экспорта полупроводников, инвестируя в RISC-V для разработки отечественных чипов, подрывая многолетнюю двухпартийную и международную работу в этой области. Этот «черный» доступ к технологиям проектирования чипов, который преследует Китай, потенциально представляет собой самую большую угрозу военному доминированию США со времен холодной войны.
Это не просто гипотеза. В 2022 году сообщалось, что, поскольку «США угрожают прекратить поставки микрочипов в Россию, российские компании, в том числе «Ядро» и «Эльбрус», разрабатывают работоспособные ядра RISC-V». С тех пор «Ядро» было добавлено в список особого назначения Министерства финансов в рамках усилий США по увеличению расходов на российскую военную машину. «Эльбрус» еще не внесен в список США, несмотря на сообщения об использовании его чипов в некоторых вычислительных приложениях российских военных и служб безопасности.
Кроме того, «Китайская академия наук, которая входит в список организаций США с ограниченной торговлей, разработала 64-битные ядра RISC-V, опираясь на проекты с открытым исходным кодом, предоставленные компаниями в Америке и Европе».
Поскольку RISC-V дает разработчикам микросхем возможность настраивать свои проекты в среде с открытым исходным кодом, на него распространяется мало торговых и экспортных правил и ограничений, что представляет собой серьезную угрозу в ситуациях, когда безопасность имеет первостепенное значение.
Полупроводниковая промышленность Китая резко выросла с 1300 зарегистрированных компаний в 2011 году до 22 800 к 2020 году. Хотя эти компании в основном сосредоточены на производстве, технологии с открытым исходным кодом, они открывают двери для внутреннего производства и разработки передовых чипов, имеющих решающее значение для разработки современных систем вооружения.
Именно это обстоятельство отражает давнюю напряженность на Тайване. Многие эксперты ожидают, что Китай вторгнется на Тайвань в течение следующего десятилетия под лозунгом своего «принципа одного Китая», поскольку Тайвань производит более 60 процентов мировых полупроводников и более 90 процентов самых передовых полупроводников. Это вполне реальная стратегическая причина для действий Китая.
В этой связи министерства торговли и обороны США вместе работают над стратегией, направленной на закрытие существующих лазеек в экспортном контроле и предотвращение участия граждан США в разработке технологии RISC-V Китаем и Россией.
3. Что означает новый чип Huawei для полупроводниковой промышленности Китая?
Прошли годы с тех пор, как компания Huawei, один из крупнейших технологических гигантов Китая и источник национальной гордости, оказалась в центре внимания всего мира из-за обвинений в угрозах национальной безопасности. С 2019 года компания Huawei столкнулась с несколькими санкциями со стороны США, которые отрезали компании доступ к бизнесу и оборудованию из США и их союзников. Huawei и Китайская международная корпорация по производству полупроводников (SMIC) были внесены в список организаций США , который, как полагают, фактически ограничил поток технологий и высококачественных чипов этим китайским фирмам.
Но важным событием является то, что компания Huawei представила свой новый смартфон Huawei Mate 60 Pro, который, как полагают, содержит чип 5G. Процессор Kirin 9000S в телефоне оснащен 7-нанометровым (N+2) чипом Huawei, который разработан подразделением микросхем Huawei HiSilicon и производится крупнейшим китайским поставщиком чипов SMIC.
Это событие вызвало шок среди западных СМИ и экспертов, которые ожидали снижения мощностей Китая по производству чипов после того, как США ввели меры экспортного контроля, направленные на ограничение поставок чипов в Китай в октябре 2022 года. 7-нм чип Huawei (N+2) лежит в основе самой передовой технологии, производимой мировыми лидерами Тайваньской компанией по производству полупроводников (TSMC) и Samsung.
Стратегия китайских производителей заключается в использовании отстающих технологий для перехода к передовым технологиям. У Китая всё ещё есть доступ к более старым технологиям, таким как чипы NVIDIA H800 и инструменты для производства чипов более низкого уровня (скажем, 28 нм).
Имея это в виду, компания Huawei использовала устаревшую архитектуру набора команд ARM, инструменты EDA и инструменты литографии глубокого ультрафиолета (DUV) последнего поколения для создания довольно конкурентоспособного набора микросхем в своем новом выпуске.
Возрождающийся прорыв Huawei в создании собственного 7-нм чипа определенно усиливают внутренний энтузиазм в производстве чипов на фоне западного режима отрицания технологий. Особо был отмечен выпуск смартфона во время визита министра торговли США Джины Раймондо в Китай. Эта новость дала толчок китайским акциям и усилила технонациональную гордость среди китайского народа.
С запуском Huawei Mate 60 Mate Pro его устойчивость в массовом масштабе в конечном итоге может не иметь большого значения. Еще важнее то, что доказанные технологические возможности Huawei по производству 7-нм чипов позволяют китайской полупроводниковой промышленности выглядеть устойчивой перед лицом западных санкций. Прорыв и уверенность в своих силах в области 7-нм технологии убедили китайское руководство и дальше инвестировать в передовую экосистему финансирования Big Fund.
Если Huawei добьется успеха в масштабировании и поставке своего процессора Kirin 9000S с возможностями 5G, она может стать конкурентом Apple на внутреннем рынке, восстановить свои силы на рынке смартфонов и, что наиболее важно, продемонстрировать способность Китая преодолеть разрыв чипа со своими конкурентами.
Что еще более важно, предполагаемый прорыв в области полупроводников ясно демонстрирует роль западных санкций в качестве катализатора в стимулировании стремления Китая к самостоятельности в производстве микросхем.
Компания Shanghai Micro Electronics Equipment (SMEE), китайская альтернатива ASML, создает местные литографические машины с использованием лазеров на фториде криптона (Krf) с длиной волны 248 нм. В используемых в настоящее время процессах DUV используются лазеры на фториде аргона (Arf) с длиной волны 193 нм. Хотя нынешние возможности этих литографических машин ограничены производством чипов размером до 28 нм, это повышает перспективы восхождения Китая по лестнице в отечественных технологиях литографии. В то время как ASML пришлось проводить исследования и разработки с нуля, Китай может за годы создать передовую технологию литографии, воспользовавшись преимуществом опоздавших. Компания будет стремиться использовать Arf-лазеры и иммерсионные технологии для собственной разработки передовых методов EUV.
Ещё одна причина, по которой нельзя сбрасывать со счетов будущие возможности Китая, заключается в его способности тайно приобретать технологии и развивать финансируемые государством нишевые компании с передовыми технологиями, а также его огромный внутренний потенциал для удовлетворения растущего рыночного спроса. Уникальные отношения китайского правительства со своими технологическими гигантами — еще один фактор, который вряд ли можно увидеть в других странах.
Хотя понятно, что самый передовой китайский чип по-прежнему отстает от чипов, производимых такими конкурентами, как TSMC, Qualcomm и Samsung, этот прорыв определенно подорвет уверенность в эффективности западных санкций. Эксперты полагают, что 7-нм прорыв Huawei еще больше спровоцирует Соединенные Штаты расширить сферу своих санкций и мер экспортного контроля.
Трудно сказать, поможет ли недавний прорыв положить конец зависимости Китая от иностранных технологий, но он наверняка поставит под угрозу и еще больше усложнит игру режимов санкций и экспортного контроля в продолжающейся технологической войне.
4. ИИ и китайские супербатареи для оружия
Согласно исследованию, опубликованному в сентябре 2023 года журналом Военно-морского инженерного университета, Китай разработал самую мощную в мире батарею для высокоэнергетического оружия, и она может производиться массово на многих заводах страны по производству литиевых батарей.
Исследователи заявили, что этот прорыв был достигнут при непосредственном участии быстро развивающейся автомобильной промышленности Китая и будет способствовать разработке оружия следующего поколения и улучшению возможностей китайской армии.
По мнению команды, возглавляемой младшим исследователем Ян Цзявэй из Университета электронных наук и технологий, батарея 40165 может стать первой в мире, которая будет выделять энергию так же быстро, как суперконденсатор.
Согласно запрету, Ян и его коллеги из университета в Чэнду, провинция Сычуань, не могут посещать США, и им запрещено использовать какое-либо американское оборудование или технологии.
Китай является крупнейшим производителем электромобилей и лидирует в мире в области технологий литиевых аккумуляторов. В первом квартале 2023 года она обогнала Японию и стала крупнейшим в мире экспортером автомобилей благодаря высокому спросу на ее электромобили.
Китайские бренды доминируют в глобальной цепочке поставок электромобилей, при этом более трех четвертей мировых мощностей по производству аккумуляторов расположено в Китае.
По словам ученых проекта, батарея основана на революционной конструкции и имеет рекордную плотность мощности, которая раньше считалась невозможной.
Большинство имеющихся в продаже литиевых батарей имеют ограниченную выходную мощность, и для разрядки всей накопленной энергии требуется не менее часа, что ограничивает их применение в основном гражданским использованием.
Но исследователи заявили, что батарея 40165 может высвободить всю свою энергию за 12–36 секунд, а полная перезарядка занимает всего три минуты.
Эти характеристики дают ему показатель C, используемый для измерения скорости полной зарядки или разрядки аккумулятора, в пределах от 100°С до 300°С, или менее 100-й доли часа. Для сравнения, показатель C, равный 1C, означает, что аккумулятору требуется один час, чтобы разряжаться со 100 процентов до нуля.
Аккумулятор был разработан с использованием существующего производственного оборудования и отлаженной цепочки поставок сырья, что делает его пригодным для массового производства при относительно низких затратах.
Это будет легкий и компактный источник энергии для «таких видов оружия, как высокоэнергетические электромагнитные пушки, дозвуковое оружие, электромагнитные пусковые установки, лазерное оружие и радары с активной фазированной решеткой, которые имеют чрезвычайно высокие требования к электропитанию», говорится в документе.
Китай с помощью технологий ИИ уже создает это футуристическое оружие, в том числе самый мощный в мире радар военного корабля, способный обнаружить ракету на расстоянии более 4500 км (2800 миль).
Китайские военно-морские ученые ускорили снаряд размером с ракету, который может достичь высокой скорости в мгновение ока, с помощью крупнейшей в мире пушки с электромагнитной катушкой. Они также разрабатывают микроволновое и лазерное оружие, способное уничтожать дроны и даже спутники на околоземной орбите.
Но системы вооружения высокой энергии требуют источника энергии, который может быстро высвободить большое количество энергии, и он должен быть относительно дешевым, безопасным и доступным в больших масштабах.
Сообщается, что китайская индустрия высокоскоростных железных дорог производит высокопроизводительные суперконденсаторы для некоторых из этих видов оружия, но, хотя они имеют быстрый разряд, они могут хранить лишь небольшое количество энергии.
По словам команды Янга, чтобы обеспечить многократное срабатывание во время боя, эти конденсаторы обычно должны работать с традиционным аккумуляторным блоком — гибридной структурой, которая является сложной, громоздкой, дорогостоящей и иногда нестабильной.
Новая батарея может уменьшить размер и вес существующих источников энергии для оружия на две трети, что является «революционным инженерным достижением», говорят исследователи.
Согласно статье, Китайский научно-исследовательский институт автомобильной техники в Чунцине принимал активное участие в разработке, тестировании и производстве «суперконденсаторной» батареи 40165.
Государственное агентство, которое курирует техническое обслуживание и производственные операции автомобильной промышленности Китая, включая электромобили, использовало для исследования новейшие технологии, уже работающие в этом секторе, говорится в документе.
Хотя батарея потребовала переизобретения литиевой батареи, все их инновации были основаны на возможностях основной производственной линии в Китае, говорят исследователи.
«Производственный процесс включает в себя производство целлюлозы, нанесение покрытия, прокатку, резку, намотку, сварку, впрыскивание, формование и сортировку по мощности. Это обычная технология литиевых батарей без какого-либо специального процесса, готовая к массовому производству».
Ранее считалось, что создание такой мощной литиевой батареи невозможно из-за физических ограничений скорости потока электрически заряженных ионов. По словам команды Янга, превышение этого предела может привести к сгоранию критически важных компонентов или даже к взрыву.
Чтобы решить проблему, они перепроектировали практически все, включая химический состав электролитов, структуру электродов и сварочные материалы.
Одна батарейка 40165 размером примерно с небольшую банку для напитков. Испытания показали, что он может работать при температуре до минус 60°C (-140°F) и иметь срок службы до 8000 циклов перезарядки, что значительно выше, чем у большинства литиевых батарей.
Исследователи заявили, что аккумуляторную батарею можно масштабировать для удовлетворения энергетических потребностей различных систем вооружения. Они также ожидают, что эта технология найдет применение в гражданских целях, например, в тяжелых транспортных средствах, которым требуется много энергии.
5. Пентагон создает центры микроэлектроники по всей территории США для поддержки индустрии чипов
20 сентября 2023 года Пентагон объявил о создании восьми региональных инновационных центров микроэлектроники, расположенных по всей территории Соединенных Штатов, чтобы помочь укрепить промышленную базу полупроводников.
Министерство обороны США создает восемь региональных центров микроэлектроники в семи штатах по всей стране, чтобы помочь стимулировать производственные инновации и укрепить отечественную полупроводниковую промышленную базу.
Заместитель министра обороны Кэтлин Хикс сообщила журналистам на брифинге в Пентагоне 20 сентября 2023 года, что общая сумма вложений составляет 238 миллионов долларов. По ее словам, каждый инновационный центр получает от 15 до 40 миллионов долларов на начало первоначальной деятельности.
Базами для восьми хабов являются:
Нью-Йорк, возглавляемый Политехническим институтом Государственного университета Нью-Йорка;
Аризона, возглавляемый Университетом штата Аризона;
Северная Каролина, возглавляемая Университетом штата Северная Каролина;
Индиана, возглавляемый Институтом прикладных исследований;
Огайо, возглавляемый Консорциумом микроэлектроники Среднего Запада;
Южная Калифорния, возглавляемая Университетом Южной Калифорнии;
Северная Калифорния, возглавляемая Стэнфордским университетом и Калифорнийским университетом в Беркли;
Массачусетс, возглавляемый Массачусетским технологическим коллективом.
«Региональные центры будут стимулировать экономический рост не только на местном уровне, но и в более широком смысле», — сказала Хикс. «Хабы помогут нам обеспечить наличие кадрового резерва, необходимого для того, чтобы оставаться на переднем крае посредством образовательных программ и инициатив по переподготовке. И это часть того, как Министерство обороны США сокращает нашу зависимость от иностранных компонентов, защищая нас от рисков нарушения цепочки поставок».
За последние 30 лет доля производства микрочипов в мире выросла с 37% до примерно 12%. Сегодня Тайвань производит большую часть мировых поставок современных полупроводников, а Китай экспортирует большую часть своих микрочипов в Соединенные Штаты. Эти чипы питают все: от мобильных телефонов до автомобилей и истребителей F-35.
Чтобы помочь устранить уязвимости в отечественной цепочке поставок микроэлектроники, Конгресс в 2023 году принял Закон о CHIPS, который предоставил 52 миллиарда долларов на финансирование усилий по улучшению рабочей силы, исследований, разработок и производства полупроводников до 2026 года.
Министерство обороны США получило 2 миллиарда долларов в виде финансирования по Закону о CHIPS, которое оно использует для создания Microelectronics Commons — национальной сети академических учреждений, фирм малого бизнеса и исследовательских организаций, работающих вместе, чтобы продвигать технологические проекты в области микроэлектроники из лабораторий в прототипы и масштабированное производство.
Общие ресурсы будут состоять из «ядер», или заводов по производству микросхем, которые обеспечат доступ к прототипированию и помогут снизить риск интеграции технологий. Инновационные центры помогут связать исследовательские проекты с региональными литейными заводами.
Пентагон планирует тратить около 400 миллионов долларов ежегодно до 2026 года на оснащение хабов и реализацию различных технологических проектов, сосредоточенных на шести областях: электронная война, квантовые технологии, безопасность на периферии, Интернет вещей, сети 5G и 6G и технологии двойного назначения.
По словам высокопоставленного представителя Министерства обороны США, который разговаривал с журналистами до официального объявления о создании центра, в октябре 2023 года министерство проведет свое первое заседание Microelectronics Commons, после чего оно планирует объявить первый конкурс проектов. Организации, не выбранные для руководства инновационными центрами, получат шанс побороться за эти проекты.
«Реализуемые проекты будут представлять собой смесь как очень краткосрочных, так и немного более долгосрочных проектов», — заявил чиновник журналистам на брифинге 19 сентября 2023 года. «Результатом успешного проекта станет то, что можно будет масштабировать на литейном заводе в США».
6. ИИ и новое поколение дронов
28 августа 2023 года заместитель министра обороны Кэтлин Хикс объявила о том, что она назвала инициативой «Replicator (Репликатор)» — комплексной попыткой модернизировать американский арсенал путем добавления флотов искусственно интеллектуального, беспилотного, относительно дешевого оружия и оборудования. Она описала эти машины как «поддающиеся изнашиванию», имея в виду, что они могут подвергаться истощению без ущерба для выполнения миссии.
«Представьте себе рой из сотен или даже тысяч беспилотных летательных аппаратов, которые общаются друг с другом, собирая разведданные о передвижениях войск противника, и вы начнете понимать видение заместителя министра относительно Репликатора. Даже если бы значительное количество дронов было сбито, собранная ими информация уже была бы записана и отправлена обратно операторам на земле», - пишет The New Yorker (15.09.2023).
В каком-то смысле заявление Хикса, сделанное во время выступления под названием «Необходимость инноваций» на заседании Национальной оборонно-промышленной ассоциации, не сигнализировало о совершенно новом подходе. Пять лет назад, например, Стратегия национальной обороны уже призывал к крупным инвестициям в искусственный интеллект, отмечая, что «мы не можем ожидать успеха в борьбе с завтрашними конфликтами с помощью вчерашнего оружия или техники». С тех пор Министерство обороны США потратило миллиарды долларов на искусственный интеллект. Только в 2022 году оно выделило около 900 миллионов долларов на поддержку почти 700 проектов искусственного интеллекта. Тем не менее, как отметила Хикс, многие подобные технологии в конечном итоге потерпели крах в так называемой «долине смерти» и так и не были приняты, даже когда они продемонстрировали успех в лаборатории или в полевых условиях.
Однако с другой стороны, инициатива «Репликатор» представляет собой радикальный отход от обычного бизнеса в Министерстве обороны США. Его цель — ускорить изобретение военных технологий, чтобы изменить способы ведения войн и практики сдерживания США.
Replicator, заявила Хикс, «разработает автономные системы масштаба в несколько тысяч человек в различных областях в течение следующих восемнадцати-двадцати четырех месяцев». По ее мнению, это будут:
«созвездия» этих систем, «выброшенные в космос, десятки за раз»;
группы небольших лодок на солнечных батареях, оснащенных датчиками, которые движутся в океане и передают разведданные в режиме реального времени;
«стаи» воздушных дронов, некоторые из которых ведут наблюдение, а другие несут оружие.
Томас Гамильтон, физик из RAND Corporation, аналитического центра, который часто проводит исследования для вооруженных сил США, называет этот подход экономикой iPhone. «Идея заключается в том, что, хотя стоимость разработки программного обеспечения составляет миллиарды долларов, стоимость производства каждого iPhone очень низка. С военной точки зрения, это будет огромным преимуществом, если я отправлю много вещей, которые дешевы в изготовлении, но имеют дорогое программное обеспечение — поэтому, если враги их собьют, они не уничтожат ни одно из моих дорогих программ».
На протяжении ряда лет Гамильтон вместе с коллегами из RAND, выступает за совместное использование недорогих летательных аппаратов. Он помнит, как снижалась стоимость микропроцессоров и росла их мощность, пока идея создания роев дронов, которую военные вынашивали более десяти лет, не стала казаться осуществимой. «Вы можете заставить десять, двадцать или пятьдесят дронов летать над одним и тем же транспортом и делать снимки своими камерами. И когда они решают, что это достойная цель, они отправляют информацию обратно оператору в Перл-Харбор, Колорадо или еще куда-нибудь», — говорит Гамильтон, - Затем оператор отдавал приказ об атаке». «Вы можете назвать это автономией, потому что человек не летает на всех самолетах. Но в конечном итоге на курок нажмет человек». (Это соответствует политике Министерства обороны США в отношении автономных систем, согласно которой человек всегда должен быть «в курсе».)
Война на Украине стала доказательством того, что множество небольших дронов могут сокрушить сложную боевую силу.
В своем заявлении Хикс несколько раз ссылалась на Китайскую Народную Республику (КНР), не оставляя сомнений в том, что это главная угроза для США. «Репликатор призван помочь нам преодолеть самое большое преимущество КНР — массу. Еще корабли. Еще ракеты. Больше людей», — сказала Хикс.
Неделю спустя, выступая на конференции, спонсируемой Defense News , она задала, а затем ответила на вопрос, связанный с выбором времени реализации инициативы «Репликатор»: «появились ли новые разведданные, которые предполагали неминуемое нападение на Тайвань или на союзников США в Индо-Тихоокеанском регионе?». Хотя она сказала, что этого не произошло, цель Репликатора к 2025 году соответствует тому, что Китай может начать нападение на Тайвань. «Мы должны добиться того, чтобы руководство КНР просыпалось каждый день, рассматривало риски агрессии и делало вывод: «Сегодня не тот день» — и не только сегодня, но каждый день, сейчас и в обозримом будущем», — сказала Хикс.
Самым большим препятствием на пути к успеху инициативы «Репликатор» в Тихоокеанском регионе может стать несоответствие между географией и технологиями. На данный момент малые воздушные дроны Украины имеют ограниченную дальность и мощность, и большинство из них либо производятся в Китае, либо используют китайские компоненты. Напротив, дроны-разведчики американского производства, такие как Global Hawk компании Northrop Grumman, которые используются силами НАТО в украинском конфликте, стоят миллионы долларов и размером с пилотируемый самолет, отчасти потому, что они могут оставаться в воздухе более суток. Даже дроны среднего размера могут стоить более миллиона долларов. Ни то, ни другое вряд ли можно считать «приносящим вред».
«Таким образом, до тех пор, пока американские компании – или само правительство – не смогут производить относительно недорогие дроны, способные летать на большие расстояния, Китай будет иметь преимущество в воздухе».
Воздушные роящиеся дроны — лишь одна часть этого нового рывка. Военно-морской флот США разрабатывает флот небольших беспилотных судов, некоторые из которых не намного больше детской игрушки, а также подводных аппаратов, способных обнаруживать и обезвреживать подводные мины. Он также реализует соглашение с ВВС США, чтобы каждое подразделение могло контролировать боевые дроны другого.
Армия уже давно использует автономные наземные транспортные средства и в настоящее время испытывает четвероногих «собак-роботов», вооруженных винтовками калибра шесть с половиной миллиметров, из которых солдаты могут стрелять за пределами объекта. ВВС намерены создать тысячу «ведомых-роботов» для помощи пилотируемым самолетам. Хикс также планирует запустить тысячи «умных спутников», которые используют ИИ для навигации и отслеживания противников. Останутся ли эти технологии ограниченными полем боя или же они будут перепрофилированы новыми и необузданными способами – например, для внутреннего наблюдения со стороны все более милитаризованной полиции – еще неизвестно.
Достижение видения Хикс, изложенного для Replicator, — это шанс на успех, который потребует нового мышления в Министерстве обороны США, говорит представитель Пентагона Эрик Пахон. «Там, где раньше процесс подачи формы занимал тридцать дней, теперь министерство потенциально может сократить этот период до пяти».
7. Новая роль отдела оборонных инноваций (DIU) в Пентагоне
По задумке, Отдел оборонных инноваций (DIU) существовал как офис, всегда несколько обособленный от Министерства обороны США. Но под новым руководством DIU, похоже, открывает новую главу своего восьмилетнего существования, которая будет посвящена не попыткам изменить игру, а скорее игре в одной команде.
Это изменение представляет собой «довольно значительный сдвиг», рассказал Breaking Defense (19.09.2023) Дуг Бек, бывший вице-президент Apple и капитан военно-морского резерва, возглавивший DIU в апреле 2023 года. Офис стремится стать более интегрированным в Министерство обороны США.
«Речь идет о том, чтобы взять возможности, которые мы создали во время DIU 2.0, по решению реальных военных проблем с помощью коммерческих технологий и обеспечить их возможность развертывания и масштабирования для истребителей, взять эти возможности сейчас и применить их для стратегического эффекта», — говорит Бек.
Бек также заявил, что «DIU сосредоточится не на попытках внедрить интересные технологии в оборонную сферу, а на понимании оперативных пробелов, с которыми сталкиваются боевые командования, чтобы удовлетворить эти потребности».
Есть признаки того, что интеграция началась всерьез. Адмирал Джон Аквилино, глава Индо-Тихоокеанского командования США, объявил о создании нового управления под своим командованием, которое будет более легко подключать промышленность к ключевым инновационным программам вооруженных сил. В рамках нового «Объединенного управления по ускорению миссий» DIU отправит в INDOPACOM сотрудника, который будет выполнять функции заместителя и главного технического директора управления.
DIU также будет играть ключевую роль в поддержке проекта «Репликатор», целью которого является использование тысяч уязвимых автономных систем в попытке противостоять военной массе Китая. Бек рассказал Breaking Defense, что организация поможет «установить повестку дня» для Replicator.
Смещение фокуса DIU имеет «всевозможные последствия» для Пентагона, добавил Бек. «Это влияет на роль, которую мы играем в некоторых ключевых процессах и рабочих группах департамента, чтобы помочь масштабированию», — сказал он.
Что означают изменения DIU в реальном выражении?
Когда бывший министр обороны США Эш Картер встал на пост DIU в 2015 году, он задумывался как своего рода посредник между технологическим сообществом и Пентагоном. Офису было поручено выходить и встречаться с компаниями, базирующимися в Кремниевой долине, а затем и с расширенными центрами в Бостоне и Остине, с целью вернуть лучшие идеи в отдел, и, одновременно, убедить эти компании в том, что инвестиции в оборонную продукцию того стоят.
DIU стал подчиняться непосредственно Картеру, который сделал технологические инновации ключевой частью своей работы. Но при министре обороны Джиме Мэттисе этот офис был понижен на несколько уровней, перейдя от прямого подчинения к дочернему подразделению заместителя министра обороны по исследованиям и разработкам, с последующим естественным сокращением влияния внутри Пентагона.
Когда в апреле 2023 года к руководству в DIU пришел Бек, Ллойд Остин вернул группе ее первоначальный статус прямого подчинения, что критически важно.
8. Создание консолидированной унифицированной сети на базе ИИ для повышения сетевой безопасности - один из главных приоритетов модернизации армии США
В августе 2023 года Пентагон объявил, что к октябрю 2023 года - началу 2024 финансового года Исполнительный офис программы (PEO) по командованию, контролю и тактической связи реструктурирует несколько своих офисов, отвечающих за корпоративные и тактические сети, а также кибероперации.
В рамках реорганизации PEO возьмет на себя интегрированный сетевой портфель от корпоративных информационных систем, который отвечает за более чем 100 проектов в армии.
В соответствии с контрактом Common Hardware Systems 6th Generation, заключенным Армейским командованием по контрактам на Абердинском испытательном полигоне, компания «повысит готовность к выполнению миссий с помощью интеллектуальной логистической платформы Leidos».
Leidos заключила контракт на тактическое ИТ-оборудование армии на сумму 7,9 млрд долларов для поддержки целей JADC2 – объединенного комбинированного управления и контроля всех родов вооруженных сил США на основе ИИ.
Это поможет обеспечить более информированное и своевременное принятие решений на протяжении всего жизненного цикла ИТ (командования, контроля, компьютеров, связи, кибербезопасности, разведки, наблюдения и рекогносцировки) и миссии при поддержке более чем 120 офисов программ армии, Министерства обороны США и федерального правительства, и агентства», — говорится в сообщении. «Оборудование и услуги, приобретенные в соответствии с условиями этого контракта, будут использоваться для поддержки единой сети для многодоменных операций (MDO) и JADC - 2».
В рамках работ, выполняемых по контракту, компания также будет использовать коммерческие технологии и «поддерживать проверенную цифровую инфраструктуру с интуитивно понятной аналитикой и автоматизацией на основе искусственного интеллекта и машинного обучения, которые помогут повысить скорость, точность, отказоустойчивость и экономическую эффективность».
«Leidos также будет работать над развертыванием логистической платформы для упреждающего управления цепочками поставок и рисками кибербезопасности, одновременно минимизируя общие затраты на жизненный цикл».
Джерри Фазано, президент Leidos:
«Объединив гибкие решения с искусственным интеллектом и прогнозной аналитикой для повышения прозрачности операций, мы будем работать над созданием уникально устойчивой модели быстрого выполнения заказов. Мы надеемся обеспечить инновационный уровень прозрачности и гибкости, который поможет повысить способность армии выполнять задачи Объединенного командования и контроля во всех областях (JADC - 2)».
9. Три уровня использования генеративного ИИ в военных и разведывательных целях
Чат-боты ChatGPT теперь могут изобретать новые рецепты, планировать отпуск или составлять экономичный список покупок. Так что же им мешает обобщить секретную разведывательную информацию или составить детальные приказы о военных действиях?
Теоретически ничего, сказали эксперты по искусственному интеллекту из независимого проекта специальных конкурентных исследований (SCSP). Министерству обороны США обязательно следует изучить эти возможности, утверждает SCSP, чтобы Китай или какой-нибудь другой недобросовестный конкурент не опередил их. Однако на практике, как подчеркнули аналитики проекта в интервью Breaking Defense (19.09.2023), потребуется большая тщательная подготовительная работа, как это изложено в недавно опубликованном исследовании SCSP.
И, предупредили они, вам всегда понадобится хотя бы один хорошо обученный человек, который проверит план ИИ, прежде чем действовать по нему, не говоря уже о том, чтобы подключить ИИ напрямую к рою смертоносных дронов.
«Конкретные военные задачи требуют гораздо большей степени специфичности, чем, как вы знаете, создание великолепного куриного пармезана», — сказал Джастин Линч, бывший армейский офицер и сотрудник Hill, который возглавляет оборонные исследования SCSP. «Это потребует лучшей настройки LLM (большой языковой модели). Он должен быть чем-то специально созданным для военных целей, объяснил он: «обученным на таких данных, как военная разведка, официальная доктрина и другие проверенные источники, а не на извлечении текста из сообщений Reddit и других общедоступных веб-сайтов, как это сделал OpenAI для ChatGPT».
«Сейчас это активная область для экспериментов», — сказал он Breaking Defense.
Если генеративный ИИ сможет разработать полный военный оперативный план, сможет ли он затем также выполнить этот план, возможно, передавая приказы непосредственно стае боевых дронов? Это технологически возможно, но это ужасная идея, - сказал Линч, - и это совсем не то, что рекомендует SCSP.
«Всё, о чем мы говорим, строго находится в пределах недавно обновленной директивы Министерства обороны США, которая предписывает человеческий контроль над смертоносной силой».
«Всё дело в совершенствовании человеческого процесса принятия решений, планирования, получения и обработки информации, а не в выполнении миссий… Технологии не существуют для автоматического выполнения».
Эксперты SCSP подчеркнули, что «всегда нужен знающий человек, дважды проверяющий план, сгенерированный ИИ, и выявляющий любые ошибки, точно так же, как любому писателю-человеку нужен редактор. Хотя это несколько замедляет темп по сравнению с чистой автоматизацией, они признали, что человеку требуется гораздо меньше времени для проверки существующего черновика, чем для его создания с нуля, поэтому это все равно должно сэкономить значительную часть времени. современные ручные и трудоемкие кадровые процессы.
Вкратце, эксперты SCSP предполагают три уровня военного и разведывательного использования генеративного ИИ (от самых простых краткосрочных приложений до самых амбициозных, требующих многих лет тщательной подготовительной работы и экспериментов):
А. Генерация контента. SCSP начинается с работы, которую уже выполняют чат-боты, только специально адаптированные для таких задач, как обобщение секретных разведывательных отчетов или инвентаризация военной логистики. Чем точнее и конкретнее наборы данных, на которых обучается ИИ, тем точнее и действеннее его ответы, в отличие от подхода «мастер на все руки, ни в чем не мастер», принятого ChatGPT и другими потребительскими ИИ. Большинство военных пользователей хотели бы иметь особенно сильные меры защиты от «галлюцинаций» ИИ, которые выдают ложь. Однако, как сказал выпускник ЦРУ и эксперт по разведке SCSP Чип Ашер, Агентство могло бы использовать пристрастие ИИ к художественной литературе для создания подробных фальшивых биографий своих агентов, потенциально включая годы убедительных постов в социальных сетях;
Б. Автоматизированная оркестровка . На следующем уровне, вместо того, чтобы просто использовать один набор данных, каким бы большим он ни был, ИИ может «вызывать информацию из большого набора баз данных или инструментов», объяснил Линч. «Я провел много времени, работая в центрах тактических операций, и обычно у вас есть доступ к сотням баз данных и инструментов, и время, чтобы ознакомиться с гораздо меньшим их количеством…. Большая языковая модель может автоматически их оркестровать, а затем извлекать наиболее релевантные наборы данных и наиболее подходящие для вас аналитические инструменты»;
В. Агентический ИИ. Здесь ИИ может перейти от рекомендации задач к их выполнению , хотя и под строгим контролем. Эксперты SCSP предполагают, что генеративный ИИ поручит подчиненным ИИ собирать информацию, чтобы заполнить пробелы в его данных, например, или организовывать конвои с припасами, а не запускать автономные смертоносные рои.
Более высокие уровни в этой структуре основаны на способности генеративного ИИ принимать широкий запрос на простом английском языке — от «запланировать питание моих детей на следующую неделю» до «придумать план материально-технического обеспечения для моего батальона» — и превращать его в подробный чек-лист конкретных задач. ИИ на самом деле не понимает задач, подчеркнул Линч, но он видел достаточно написанных человеком контрольных списков, чтобы генерировать свои собственные, похожие, когда его об этом спросят.
Точно так же ИИ на самом деле не «понимает», чего просят его хозяева-люди. Он не осознает внешней реальности, а лишь статистические корреляции между словами и частями слов («токены» на жаргоне). Но LLM действительно хорошо научились превращать вводимые на человеческом языке данные в машиночитаемые 1 и 0, а затем превращать их вывод в понятные слова. Это позволяет им выступать в качестве посредников между людьми – даже неподготовленными людьми – и все более сложными алгоритмами.
«Многие инструменты, которые мы видим, имеют интерфейсы на естественном языке, которые значительно повышают доступность и снижают барьеры для работы в определенных секторах без многолетнего интенсивного обучения или образования», — сказал Байрактари из SCSP. Обратной стороной является то, что нескольким злонамеренным лицам стало легче, чем когда-либо, массово производить дезинформацию, вредоносное ПО или даже смертоносное оружие, такое как самодельные бомбы или отравляющий газ. Положительным моментом является огромный потенциал для людей, не имеющих интенсивной технической подготовки в области ИИ, воспользоваться преимуществами новых мощных технологий ИИ.
Фактически, между появлением искусственного интеллекта и ростом Китая, как утверждается в докладе SCSP, человечество сталкивается с сочетанием технологических изменений и геополитической нестабильности с пугающим «сходством с эпохой перед Первой мировой войной».
10. Сдерживать Китай с помощью коммерческого программного обеспечения
Дэвид Пира в The National Interest (20.09.2023) пишет, что «революция в области программного обеспечения может помочь выжать больше возможностей из существующих вооруженных сил США в сроки, которые действительно могут помочь сдержать войну с Китаем и другими противниками».
«Американские военные столкнулись с серьезным вызовом. В то время как Китай и другие угрозы американским интересам становятся все более острыми, оборонный бюджет и общая численность вооруженных сил относительно статичны. Для реализации планов по развертыванию большего количества новых, более эффективных платформ, таких как корабли и самолеты следующего поколения, потребуются годы. Нам нужен ярлык. Ответом может стать лучшее программное обеспечение, коммерчески доступное».
«Один из способов, с помощью которого Америка может оказать большое влияние на быстрое сдерживание Китая, — это программное обеспечение, особенно коммерчески доступное программное обеспечение, которое можно адаптировать к военным потребностям в течение месяцев, а не лет.
Более эффективный сбор, обработка и защита информации — это способ добиться дополнительного использования ограниченного числа систем вооружения, которые мы имеем сегодня. Нигде в последнее время это не было так очевидно, как на поле боя на Украине. Обе стороны гораздо чаще использовали датчики и коммерческую связь по сравнению с предыдущими конфликтами. Они часто принимают форму относительно низкотехнологичных, быстровозводимых беспилотных летательных аппаратов. Программное обеспечение для обработки этой информации и принципы проектирования, обеспечивающие ее безопасность, имели решающее значение.
Руководство вооруженных сил США понимает необходимость более активного использования технологий. Пентагон предписал оперативные императивы, которые включают следующие вопросы:
устойчивая космическая архитектура;
оптимизированное управление и контроль, которое работает во всех видах вооруженных сил;
расширение возможностей отслеживания и поражения движущихся целей;
общение во враждебных средах, где противники используют дыры в наших сетях».
Все эти направления могут быть быстро улучшены с помощью программного обеспечения. Более того, программное обеспечение часто можно быстро и с гораздо меньшими затратами модернизировать в существующие системы вооружения, чем улучшаемое им оборудование. Это особенно верно, если программное обеспечение может быть адаптировано из частного сектора, а не создано правительством как «эксклюзивный» продукт.
«Возьмем, к примеру, космос. Использование более совершенного программного обеспечения для защиты космических сетей, которые вскоре будут включать в себя десятки тысяч частных спутников в дополнение к правительственным и коммерческим спутникам, уже находящимся на орбите, может стать для вооруженных сил США способом понять поле боя и управлять своими силами. Также может возникнуть необходимость сотрудничества с менее опытными партнерами. Это также было продемонстрировано на Украине, где боевики также использовали коммерческие спутниковые снимки почти в реальном времени. Управляемые правительством шпионские спутники, возможно, по-прежнему остаются золотым стандартом, но варианты частного сектора не сильно отстают.
Тысячи спутников, которые частные операторы, такие как Starlink от SpaceX и Kuiper от Amazon, выводят на орбиту, в сочетании со спутниками, принадлежащими государству, станут важным фактором увеличения силы, если их правильно эксплуатировать и защищать с помощью специализированного программного обеспечения. В частности, старые и новые спутники необходимо модернизировать и спроектировать для использования сквозного шифрования, разработки программного обеспечения с нулевым доверием и децентрализованного управления ключами шифрования».
«Программное обеспечение также может объяснить тот факт, что оборудование в космосе будет отключено в результате действий противника в военное время, поскольку именно программное обеспечение делает сети адаптируемыми. Программное обеспечение, которое защищает информацию на уровне данных, означает, что нам не нужно беспокоиться о том, что мы полагаемся только на государственные сети. Когда враг неизбежно взламывает сеть или уничтожает сетевые узлы, не имеет большого значения, смогут ли военные переключаться между несколькими сетями и узлами, будь то военные или коммерческие спутники, корабли и подводные лодки стоимостью в миллиарды долларов или дешевые дроны.
Революция в области программного обеспечения может помочь выжать больше возможностей из существующих вооруженных сил США в сроки, которые действительно могут помочь сдержать войну с Китаем и другими противниками, а также сделать нас более подготовленными к победе над киберагрессией, которая также стала нормой мирного времени. Но Пентагону необходимо действовать быстро и шире использовать существующие коммерческие технологии, чтобы сохранить преимущество».
11. Как США через ООН планирует поставить под контроль китайский ИИ
Амандип Сингх Гилл, посланник Генерального секретаря ООН по технологиям, выступает на ежегодном саммите Concordia 19 сентября 2022 года в Нью-Йорке.
19 сентября 2023 года в рамках Генеральной Ассамблеии ООН в Нью-Йорке, посланник Генерального секретаря ООН по технологиям Амандип Гилл провел мероприятие под названием «Управление ИИ для человечества», на котором участники обсудили риски, которые может представлять ИИ, и проблемы достижения международного сотрудничества в сфере искусственного интеллекта.
Генеральный секретарь Антониу Гутерриш и Гилл заявили, что, по их мнению, потребуется новое агентство ООН, которое поможет миру сотрудничать в управлении этой мощной технологией. Но вопросы, которые новое образование будет стремиться решить, и его структура еще не определены. Некоторые наблюдатели говорят, что амбициозные планы глобального сотрудничества, подобные этому, редко получают необходимую поддержку могущественных стран.
Гилл и раньше возглавлял усилия по повышению безопасности передовых технологий. Он был председателем Группы правительственных экспертов Конвенции о конкретных видах обычного оружия, когда кампания «Остановить роботов-убийц», целью которой было заставить правительства объявить вне закона разработку смертоносных автономных систем вооружения, не смогла завоевать поддержку мировых сверхдержав, включая США и Россию. Теперь Гилл предпринимает еще более амбициозные усилия по развитию международного сотрудничества в области ИИ.
За последние несколько лет ИИ развивался стремительными темпами, и эксперты не ожидают, что этот прогресс замедлится в ближайшее время. Воздействие ИИ будет ощущаться далеко за пределами стран, в которых он разработан, ведущие мировые лидеры и технологи призывают к международному сотрудничеству по вопросам ИИ.
На заседании Совета Безопасности ООН в июле Гутерриш представил ООН как подходящий форум для такого сотрудничества. Консультативный орган высокого уровня по искусственному интеллекту, состав которого будет объявлен в октябре 2023 года, является следующим шагом на пути к созданию агентства ООН по искусственному интеллекту.
Гилл, который ранее занимал должность исполнительного директора Группы высокого уровня ООН по цифровому сотрудничеству с 2018 по 2019 год, был назначен техническим посланником в июне 2022 года.
В августе 2023 года офис технического посланника открыл процесс отбора экспертов для работы в Консультативном органе высокого уровня по искусственному интеллекту с публичным объявлением о выдвижении кандидатур.
Отдельный призыв к выдвижению кандидатур, с которым ознакомился журнал TIME (23.09.2023), был разослан государствам-членам и содержал круг ведения нового Органа. В них указывалось, что в состав Органа будет входить до 32 членов из различных секторов и разных полов, возрастов, географического представительства и сфер деятельности.
Гилл рассказал TIME в интервью 30 августа 2023 года, что его офис получил более 1600 номинаций в результате публичного объявления о выдвижении кандидатур. С учетом номинаций от стран-членов он ожидает, что будет более 2000 номинаций. По его словам, офис технического посланника при участии других организаций ООН составит короткий список, из которого Генеральный секретарь выберет 32 члена. Орган соберется впервые в октябре 2023 года.
В круге ведения документа, с которым ознакомился TIME и подтвержден Гиллом, указано, что Орган подготовит промежуточный отчет, представляющий «высокоуровневый анализ вариантов международного управления искусственным интеллектом» к 31 декабря 2023 года. Второй отчет, который будет представлен до 31 августа 2024 года, «может предоставить подробные рекомендации относительно функций, формы и сроков создания нового международного агентства по управлению искусственным интеллектом».
Аки Энкенберг, руководитель группы по инновациям и цифровому сотрудничеству Министерства иностранных дел Финляндии, назвал решение указать, что орган будет предоставлять рекомендации относительно нового международного агентства, «поспешным шагом». Он утверждает, что значительная часть международного управления, необходимого для ИИ, может быть обеспечена существующими органами системы ООН, и говорит, что необходимо было провести анализ, чтобы оценить, есть ли пробелы в системе ООН, прежде чем предлагать создание нового агентства. Гилл отрицал, что круг ведения приводит к смещению выводов Совета в сторону рекомендации создания нового агентства.
Когда его спросили, может ли размер консультативного органа сделать его громоздким и, следовательно, в конечном итоге дать секретариату огромное влияние на содержание отчета, Гилл ответил, что секретариат не будет стремиться влиять на выводы органа.
В сентябре 2024 года ООН проведет Саммит будущего. К тому времени, по словам Гилла, он надеется, что выводы Совета дадут государствам-членам информацию, необходимую им для принятия решения о том, следует ли им поддерживать создание агентства ООН по искусственному интеллекту и если да, то каким образом. «Это был бы подходящий момент для создания этого агентства», — сказал он. «Саммит будущего — это возможность для лидеров».
В сообщении в блоге, опубликованном в мае 2023 года, старшие руководители компании OpenAI, стоящей за ChatGPT, утверждали, что в будущем может потребоваться нечто вроде Международного агентства по атомной энергии (МАГАТЭ) для ИИ, чтобы безопасно управлять более сложными системами искусственного интеллекта. «Любые усилия «сверхразведки», превышающие определенный порог возможностей (или ресурсов, таких как вычисления), должны будут подчиняться международному органу, который может проверять системы, требовать аудита, проверять на соответствие стандартам безопасности, налагать ограничения на степень развертывания и уровни безопасности», — говорится в сообщении в блоге.
МАГАТЭ, основанное в 1957 году, проводит инспекции, чтобы гарантировать, что государства, не обладающие ядерным оружием, не разрабатывают ядерное оружие, а также обеспечивает техническое сотрудничество для мирного развития ядерной энергетики.
В июне 2023 года Гутерриш проявил энтузиазм по поводу концепции аналогичного органа по ИИ, заявив: «Я был бы благосклонен к идее о том, что у нас может быть агентство искусственного интеллекта… вдохновленное тем, чем сегодня является международное агентство по атомной энергии».
Но копирование МАГАТЭ для искусственного интеллекта — это лишь один потенциальный вариант. В документе, на который Гилл ссылался во время интервью журналу TIME, опубликованном в июле 2023 года исследователями из известных лабораторий искусственного интеллекта Google DeepMind и OpenAI, а также различных академических и некоммерческих исследовательских институтов, изложены четыре возможные формы, которые могла бы принять международная организация по искусственному интеллекту, которые не являются взаимоисключающими:
создание агентства, подобного МАГАТЭ, которое может разрабатывать общеотраслевые стандарты и контролировать заинтересованные стороны, чтобы оценить, соблюдаются ли эти стандарты;
создание организации по образцу Межправительственной группы экспертов по изменению климата (МГЭИК), которая будет способствовать консенсусу экспертов по техническим вопросам;
международное партнерство между государственным и частным секторами, которое обеспечит равный доступ к полезному ИИ, как это делает Альянс по вакцинам, для вакцин;
международное сотрудничество в области исследований безопасности ИИ, аналогичное Европейской организации ядерных исследований (ЦЕРН).
Некоторые эксперты утверждают, что агентству по искусственному интеллекту, подобному МАГАТЭ, будет сложно заручиться поддержкой политиков. Это связано с тем, что такие страны, как США и Китай, потребуют от международных инспекторов полного доступа к самым передовым лабораториям искусственного интеллекта в своих юрисдикциях, чтобы избежать рисков, которые еще не материализовались.
Уровень международного сотрудничества между странами с целью управления опасными технологиями находится на «30-летнем минимуме», говорит Билл Дрексел, научный сотрудник аналитического центра по военным вопросам Центра новой американской безопасности. «Попытка добиться действительно значимого соглашения на основе этого базового уровня с технологией, риски и преимущества которой еще не определены, кажется сверхсложной задачей».
Дрексел считает, что для формирования политической воли, необходимой для заключения существенного соглашения между странами, может потребоваться серьезный инцидент, связанный с искусственным интеллектом.
Одно из предложений по более политически осуществимой модели управления, которая может быть расширена в будущем, содержится в официальном документе, опубликованном в августе 2023 года исследователями из различных академических и некоммерческих организаций, а также технологическим гигантом Microsoft. В документе предлагается создать Международную организацию ИИ (IAIO) для партнерства с национальными регулирующими органами по стандартам и сертификации юрисдикций, а не для мониторинга отдельных компаний, занимающихся ИИ. Согласно этой модели, отдельные правительства будут обеспечивать соблюдение стандартов, разрешая работать на своем внутреннем рынке только компаниям в юрисдикциях, которые соответствуют этим стандартам. Им также необходимо будет ограничить экспорт ресурсов ИИ, таких как компьютерные чипы, в страны, которые не соответствуют стандартам.
Роберт Трэгер, один из ведущих авторов официального документа и руководитель международного управления в Центре управления искусственным интеллектом, рассказал TIME, что сертификация на юрисдикционном уровне делает этот механизм менее навязчивым, а это означает, что могущественные страны с большей вероятностью подпишут его.
Риски безопасности ИИ, возможно, нелегко сдержать в пределах границ, поэтому будет крайне важно, чтобы все страны, в которых разрабатываются мощные системы ИИ, — главным образом США и Китай — были включены в любое международное соглашение.
Сихао Хуан, исследователь из Оксфордского университета, который последний год изучал управление ИИ в Пекине, утверждает, что если Китай будет согласиться на международное соглашение.
На заседании Совета Безопасности ООН в июле 2023 года Дмитрий Полянский, первый заместитель постоянного представителя Российской Федерации при ООН, заявил, что Россия «против создания наднациональных органов надзора за ИИ».
ООН — не единственный форум, который следует учитывать, — говорит Трэгер. Он утверждает, что существует множество моделей, которые позволят широкому кругу заинтересованных сторон участвовать в управлении.
Международное сотрудничество «действительно неуклюжее, медленное и в целом неэффективное», говорит Дрексель. Вместо этого, возможно, удастся «придумать двусторонние или более ограниченные многосторонние форумы, чтобы попытаться управлять передовыми системами искусственного интеллекта и даже масштабироваться по мере расширения компаний, которые могли бы обучать передовые модели».
Гилл говорит, что ООН, уникальная универсальная межправительственная организация с опытом управления новыми технологиями, имеет хорошие возможности для размещения договора или организации по управлению ИИ.
По словам Трагера, идеализм привел к провалу предыдущих попыток — таких как Кампания по прекращению роботов-убийц — по управлению искусственным интеллектом на международном уровне. «Это похоже на то, что произошло при обсуждении смертоносного автономного оружия», — говорит он. Хотя эти усилия были сделаны из лучших побуждений и имели четкую цель запретить определенные формы разработки и использования.
Гилл же по-прежнему полон решимости. «Мы должны попытаться», — говорит он. «Мир сложен — так было и будет всегда. Но я думаю, что вижу окно возможностей».
***
Серьёзные меры осуществляют США, чтобы не отстать от Китая в военных разработках ИИ.
Но если отстанут, то узнают об этом только на полях сражений.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/kitaj_-_ssha_bitva_intellektov
21.09.2023 Еретик ИИ
Как известный экономист научился бояться искусственного интеллекта
На протяжении полувека экономисты поклонялись технологиям как однозначной силе добра. Сопротивление технологиям значило вызвать застой, бедность и тьму. Бесчисленные экономические модели, как и вся современная история, казалось, доказывали простое и неопровержимое уравнение: технологии = процветание для всех.
Так сейчас говорят об искусственном интеллекте.
Но нашелся экономист, который делает все возможное, чтобы бить тревогу, — еретик, утверждающий, что нынешняя траектория развития ИИ скорее навредит нам, чем поможет.
ТЕЛЕГИ, ЗАГРУЖЕННЫЕ БОЛАМИ. В средние века земледелие стало более продуктивным, но выгоды от новых технологий редко приносили пользу крестьянам.
Дарон Аджемоглу, экономист Массачусетского технологического института, настолько плодовит и уважаем, что его уже давно считают ведущим кандидатом на Нобелевскую премию по экономике. Раньше он верил в общепринятую точку зрения, согласно которой технологии всегда являются движущей силой экономического блага. Но теперь, вместе со своим давним соратником Саймоном Джонсоном, Аджемоглу написал 546-страничный трактат, который разрушает Технологическую церковь и демонстрирует, как инновации часто оказываются вредными для общества. В своей книге «Власть и прогресс» Аджемоглу и Джонсон демонстрируют серию крупных изобретений, сделанных за последние 1000 лет, которые, вопреки тому, что нам говорили, не улучшили, а иногда даже ухудшили жизнь большинства людей. Когда крупные технологические прорывы действительно приводили к всеобщему благу (примеры, которые приводят сегодняшние оптимисты в области искусственного интеллекта), это происходило только потому, что правящие элиты были вынуждены широко делиться достижениями от инноваций, а не оставлять себе прибыль и власть, а не только технологии сами по себе, которые в конечном итоге принесли пользу обществу.
«Широкое процветание прошлого не было результатом каких-либо автоматических, гарантированных достижений технологического прогресса», — пишут Аджемоглу и Джонсон. «Мы являемся бенефициарами прогресса, главным образом потому, что наши предшественники заставляли прогресс работать на большее количество людей».
Сегодня, в этот момент пика развития ИИ, по какому пути мы идем? Потрясающий, где мы все получаем пользу от этих новых инструментов? Или ужасный, в котором большинство из нас проигрывает? В ходе трех бесед летом 2023 года Аджемоглу сказал Аки Ито (Insider), что он обеспокоен тем, что «мы сейчас катимся по дороге, которая закончится катастрофой». Повсюду вокруг себя он видит поток предупреждающих знаков — тех, которые в прошлом приводили к тому, что немногие отдавали предпочтение множеству. Власть сосредоточилась в руках горстки технологических гигантов. Технологи, руководители и исследователи сосредоточились на замене людей, а не на расширении их прав и возможностей. Одержимость слежкой за работниками. Рекордно низкий уровень профсоюзов. Ослабленные демократии. Исследования Аджемоглу показывают – и история говорит нам – что основанные на технологиях антиутопии не являются какой-то научной фантастикой. На самом деле они гораздо более распространены, чем кто-либо мог себе представить.
«Есть большая вероятность, что если мы не скорректируем курс, у нас будет действительно двухуровневая система», — говорит Аджемоглу. «Небольшое количество людей будет на вершине — они будут разрабатывать и использовать эти технологии — и очень большое количество людей будет иметь лишь второстепенную или не очень значимую работу». Результатом, как он опасается, станет будущее с более низкой заработной платой для большинства из нас.
Аджемоглу разделяет эти мрачные предупреждения не для того, чтобы призывать рабочих полностью противостоять ИИ и не заставлять нас отсчитывать годы до нашей экономической гибели. Он видит возможность благоприятного исхода для ИИ — «технология, которую мы имеем в наших руках, обладает всеми возможностями, чтобы принести много пользы» — но только если рабочие, политики, исследователи и, возможно, даже несколько благородных технологических магнатов сделают это. это так. Учитывая, как быстро ChatGPT распространился на рабочих местах — в одном опросе 81% крупных компаний заявили, что уже используют ИИ для замены повторяющейся работы — Аджемоглу призывает общество действовать быстро. И его первая задача весьма сложна: депрограммировать всех нас от того, что он называет «слепым технооптимизмом», поддерживаемым «современной олигархией».
«Это, — говорит он, — последняя возможность для нас проснуться».
Аджемоглу, 56 лет, живет со своей женой и двумя сыновьями в тихом, богатом пригороде Бостона. Но он родился в 5000 милях отсюда, в Стамбуле. Когда ему было три года, военные захватили контроль над правительством, а его отец, профессор левого толка, опасавшийся обыска в доме семьи, сжег книги. Экономика рухнула под тяжестью трехзначной инфляции, огромного долга и высокого уровня безработицы. Когда Аджемоглу было 13 лет, военные задержали и судили сотни тысяч людей, многих пытали и казнили. Наблюдая за насилием и бедностью вокруг себя, Аджемоглу начал задаваться вопросом о связи между диктатурами и экономическим ростом — вопрос, который он не смог бы свободно изучать, если бы остался в Турции. В 19 лет он уехал поступать в колледж в Великобритании. В 25-летнем возрасте переехал в Бостон, чтобы преподавать в Массачусетском технологическом институте.
Книга, написанная совместно с Джонсоном и еще одним давним соавтором, Джеймсом Робинсоном, затрагивает вопрос, над которым он размышлял, будучи подростком: развивают ли демократические страны лучшую экономику, чем диктатуры? Это огромный вопрос, на который трудно ответить, потому что, возможно, бедность ведет к диктатуре, а не наоборот.
В своей амбициозной и обширной книге «Почему нации терпят неудачу» Аджемоглу и Робинсон отвергли такие факторы, как культура, погода и география, как вещи, которые сделали одни страны богатыми, а другие бедными. Единственным фактором, который действительно имел значение, была демократия.
Книга неожиданно стала бестселлером, и экономисты расценили ее как сдвиг парадигмы. Но Аджемоглу занимался и другим направлением исследований, которое давно его увлекало: технологическим прогрессом. Как и почти все его коллеги, он начинал как беззастенчивый технооптимист. В 2008 году он опубликовал учебник для аспирантов, в котором поддержал ортодоксальную позицию «технологии всегда хороши». «Я следовал канону экономических моделей, и во всех этих моделях технологические изменения являются основным фактором роста ВВП на душу населения и заработной платы», — говорит Аджемоглу.
Но по мере того, как он думал об этом больше, он начал задаваться вопросом, может ли быть что-то еще в этой истории. Первым поворотным моментом стала статья, над которой он работал вместе с экономистом Дэвидом Атором. Там была поразительная диаграмма, отражающая доходы американских мужчин за пять десятилетий с поправкой на инфляцию. В 1960-х и начале 1970-х годов заработная плата всех людей росла одновременно, независимо от образования. Но затем, примерно в 1980 году, зарплаты людей с учеными степенями начали стремительно расти, в то время как зарплаты выпускников средних школ и бросивших учебу резко упали. Что-то делало жизнь менее образованных американцев явно хуже. Это было что-то технологическое?
ЛОКОМОТИВЫ И ЛАМПОЧКИ. Машинисты дилижансов и фонарщики были уволены с работы, но на последних этапах промышленной революции эти новые технологии создали огромное количество высокооплачиваемых рабочих мест.
Аджемоглу догадывался, что это так. Вместе с Паскуалем Рестрепо, одним из его тогдашних учеников, он начал думать об автоматизации как о чем-то, что одновременно делает две противоположные вещи: она крадет задачи у людей и в то же время создает новые задачи для людей. Он и Рестрепо предположили, что в конечном итоге успех рабочих зависит во многом от баланса этих двух действий. Когда вновь созданные задачи компенсируют украденные задачи, у работников все в порядке: они могут перейти на новую работу, которая часто оплачивается лучше, чем на старой. Но когда украденные задачи опережают новые, уволенным работникам некуда идти. В более поздних эмпирических работах Аджемоглу и Рестрепо показали, что именно это и произошло. В течение четырех десятилетий после Второй мировой войны эти два вида задач уравновешивали друг друга. Но в течение следующих трех десятилетий украденные задачи значительно опережали новые. Короче говоря, автоматизация пошла в обе стороны. Иногда это было хорошо, а иногда было плохо.
Это была плохая сторона, в которой экономисты до сих пор не были убеждены. Поэтому Аджемоглу и Рестрепо, поискав дополнительные эмпирические доказательства, сосредоточились на роботах. То, что они обнаружили, было ошеломляющим: с 1990 года внедрение каждого дополнительного робота сократило занятость примерно на шесть человек, одновременно заметно снизив заработную плату. «Это открыло мне глаза», — сказал мне Аджемоглу. «Люди думали, что такие негативные последствия от роботов невозможны».
Многие экономисты, придерживающиеся технологической ортодоксальности, отвергли влияние роботов на рабочих-людей как «преходящее явление». В конце концов, настаивали они, технология окажется полезной для всех. Но Аджемоглу счел такую точку зрения неудовлетворительной. Можно ли действительно назвать то, что происходило на протяжении трех или четырех десятилетий, «преходящим»? По его подсчетам, роботы лишили работы более полумиллиона американцев. Возможно, в долгосрочной перспективе преимущества технологий в конечном итоге дойдут до большинства людей. Но, как однажды пошутил экономист Джон Мейнард Кейнс, в долгосрочной перспективе мы все умрем.
Роботы, как обнаружил Аджемоглу, уничтожили рабочие места и снизили заработную плату. «Это было откровением», - говорит он. «Люди думали, что такие негативные последствия от роботов невозможны».
Поэтому Аджемоглу приступил к изучению долгосрочной перспективы. Во-первых, он и Джонсон изучили ход западной истории, чтобы увидеть, были ли другие времена, когда технологии не могли выполнить свои обещания. Была ли недавняя эра автоматизации аномалией, как предполагали многие экономисты?
Это не так, выяснили Аджемоглу и Джонсон. Возьмем, к примеру, средневековье, период, который обычно называют технологической пустошью. Но в средние века на самом деле произошел ряд инноваций, в том числе тяжелые колесные плуги, механические часы, прялки, более разумные методы севооборота, широкое распространение тачек и более широкое использование лошадей. Эти достижения сделали сельское хозяйство намного более продуктивным. Но причина, по которой мы помним этот период как «Темные века», заключается именно в том, что доходы никогда не доходили до крестьян, которые выполняли реальную работу. Несмотря на все технологические достижения, они трудились дольше, все больше недоедали и, скорее всего, жили короче. Излишки, созданные благодаря новой технологии, достались почти исключительно элите, находившейся на вершине общества: духовенству,
Или возьмем промышленную революцию, на которую технооптимисты радостно указывают как на пример неизменной пользы инноваций. Первый, длительный период промышленной революции оказался фактически катастрофическим для рабочих. Технология, которая механизировала прядение и ткачество, уничтожила средства к существованию квалифицированных ремесленников, передав рабочие места в текстильной промышленности неквалифицированным женщинам и детям, которые получали более низкую заработную плату и практически не имели переговорной силы. Люди, стекавшиеся в города ради работы на фабриках, жили рядом с выгребными ямами с отходами жизнедеятельности человека, дышали загрязненным углем воздухом и были беззащитны перед такими эпидемиями, как холера и туберкулез, которые уничтожили их семьи. Их также заставляли работать дольше, в то время как реальные доходы оставались на прежнем уровне.
Если средний человек не получил от этого выгоды, куда шло все дополнительное богатство, созданное новыми машинами? И снова его накопили элиты: промышленники. «Обычно технология поглощается и контролируется довольно небольшим количеством людей, которые используют ее в первую очередь для собственной выгоды», — говорит Джонсон. «Это большой урок человеческой истории».
АВТОМОБИЛЬ. Конвейерное производство создало множество рабочих мест для рабочих, а также новых должностей в области проектирования и управления.
Аджемоглу и Джонсон признали, что технологии не всегда были плохими: временами они обнаруживали, что они были не чем иным, как чудом. В Англии во время второй фазы промышленной революции реальная заработная плата выросла на 123%. Средний рабочий день сократился до девяти часов, детский труд был ограничен, а продолжительность жизни выросла. В Соединенных Штатах во время послевоенного бума с 1949 по 1973 год реальная заработная плата росла почти на 3% в год, создавая динамичный и стабильный средний класс. «Насколько известно, никогда не было другой эпохи такого быстрого и всеобщего процветания», — пишут Аджемоглу и Джонсон, начиная с древних греков и римлян. Именно подобные эпизоды заставили экономистов так горячо поверить в силу технологий.
Так что же отличает хорошие технологические времена от плохих? Это центральный вопрос, который Аджемоглу и Джонсон решают в книге «Власть и прогресс». По их словам, результат новой технологии определяют два фактора. Прежде всего, это природа самой технологии: создает ли она достаточно новых задач для работников, чтобы компенсировать те задачи, которые она отнимает. Они утверждают, что на первом этапе промышленной революции доминировали текстильные машины, которые заменили квалифицированных прядильщиц и ткачей, не создав для них достаточного количества новых рабочих мест, обрекая их на неквалифицированную работу с более низкой заработной платой и худшими условиями. На втором этапе промышленной революции, напротив, паровые локомотивы вытеснили водителей дилижансов, но они также создали множество новых рабочих мест для инженеров, строителей, продавцов билетов, носильщиков, и менеджеры, которые контролировали их всех. Зачастую это были высококвалифицированные и высокооплачиваемые рабочие места. Снизив стоимость транспортировки, паровой двигатель также помог расширить такие отрасли, как металлургическая промышленность и розничная торговля, создав рабочие места и в этих областях.
В обычное время подобные идеи могут показаться чисто академическими — просто очередными дебатами о том, как интерпретировать прошлое. Но есть один момент, в котором согласны и Аджемоглу, и техническая элита, которую он критикует: сегодня мы переживаем еще одну технологическую революцию с ИИ.
«Что особенного в ИИ, так это его скорость», — говорит Аджемоглу. «ИИ намного быстрее, чем предыдущие технологии. ИИ широко распространен. ИИ будут применять практически во всех секторах. ИИ очень гибок. «Это неправильно, если это разрушительное направление, оно может очень быстро распространиться и стать доминирующим».
Аджемоглу признает, что его взгляды далеки от консенсуса в его профессии. Но есть признаки того, что его взгляды начинают оказывать более широкое влияние на разгорающуюся битву за искусственный интеллект. В июне 2023 года Гита Гопинатх, заместитель руководителя Международного валютного фонда, выступила с речью, призывая мир регулировать ИИ таким образом, чтобы это приносило пользу обществу, назвав Аджемоглу по имени. Люди из высшего руководства ведущих лабораторий искусственного интеллекта читают и обсуждают его работу. А Пол Ромер, получивший Нобелевскую премию в 2018 году за работу, которая показала, насколько важны инновации для экономического роста, говорит, что он претерпел изменения в мышлении, которые отражают точку зрения Аджемоглу.
«Экономисты, в том числе и я, выдавали желаемое за действительное, которые хотели верить, что все, естественно, обернется хорошо», — говорит Ромер. «Что мне становится все более и более очевидным, так это то, что это не является чем-то само собой разумеющимся. Ослепляюще очевидно, ex post facto, что существует множество форм технологий, которые могут нанести большой вред, а также множество форм, которые могут принести огромную пользу».
Ромер хвалит Аджемоглу за то, что он бросил вызов общепринятым представлениям.
В начале 2023 года исследовательская инициатива, организованная Microsoft, предоставила Аджемоглу ранний доступ к GPT-4. Поигравшись с ним, он был поражен ответами, которые получил от бота. «Каждый раз, когда я разговаривал с GPT-4, я был настолько впечатлен, что в конце сказал: «Спасибо», — говорит он, смеясь. «Это, конечно, выходит за рамки того, что я мог себе представить год назад. Я думаю, что это демонстрирует большой потенциал в выполнении множества задач».
Но ранние эксперименты с ИИ также познакомили его с его недостатками. Он не думает, что мы приблизились к тому моменту, когда программное обеспечение сможет делать все, что могут люди, — состоянию, которое ученые-компьютерщики называют общим искусственным интеллектом. В результате он и Джонсон не предвидят будущего массовой безработицы. Люди по-прежнему будут работать, но с более низкой заработной платой. «Что нас беспокоит, так это то, что навыки большого числа работников будут гораздо менее ценными», — говорит он. «Поэтому их доходы не будут поддерживаться».
Интерес Аджемоглу к ИИ возник за много лет до бурного развития ChatGPT. Отчасти это заслуга его жены Асу Оздаглар, которая возглавляет факультет электротехники и информатики в Массачусетском технологическом институте. Благодаря ей он получил раннее образование в области машинного обучения, которое позволило компьютерам выполнять более широкий круг задач. Углубляясь в автоматизацию, он начал задаваться вопросом о ее влиянии не только на рабочие места на фабриках, но и на офисных работников. «Роботы важны, но сколько рабочих у нас осталось?», спрашивает он. «Если у вас есть технология, которая автоматизирует интеллектуальную работу, работу служащих, канцелярскую работу, это будет гораздо важнее для следующего этапа автоматизации».
Теоретически вполне возможно, что автоматизация в конечном итоге станет чистым благом для служащих. Но сейчас Аджемоглу обеспокоен тем, что в конечном итоге это обернется плохими последствиями, поскольку в настоящее время общество не создает условий, необходимых для того, чтобы новые технологии приносили пользу всем. Во-первых, благодаря продолжавшейся десятилетиями атаке на профсоюзы, только 10% работающего населения состоят в профсоюзах — рекордно низкий уровень. Без переговорной силы работники не смогут влиять на то, как инструменты ИИ применяются на работе или кто получает долю в создаваемом ими богатстве. А, во-вторых, годы дезинформации ослабили демократические институты — тенденция, которая, вероятно, ухудшится в эпоху глубоких фейков.
Более того, Аджемоглу обеспокоен тем, что ИИ не создает достаточно новых задач, чтобы компенсировать те, которые он отнимает. В недавнем исследовании он обнаружил, что компании, которые за последнее десятилетие наняли больше специалистов по искусственному интеллекту, в целом стали нанимать меньше людей. Это говорит о том, что еще до эпохи ChatGPT работодатели использовали ИИ для замены своих работников-людей программным обеспечением, а не для повышения производительности труда людей – как они это делали с более ранними формами цифровых технологий. Компании, конечно, всегда стремятся сократить расходы и увеличить краткосрочную прибыль. Но Аджемоглу также обвиняет область исследований ИИ в том, что они уделяют особое внимание замене рабочих. Ученые-компьютерщики, отмечает он, судят о своих творениях ИИ, оценивая, могут ли их программы достичь «человеческого паритета» — выполнять определенные задачи так же хорошо, как и людей.
«Для людей в отрасли и в более широкой экосистеме стало второй натурой оценивать эти новые технологии по тому, насколько хорошо они похожи на человека», — сказал он мне. «Это создает очень естественный путь к автоматизации и воспроизведению того, что делают люди — и часто недостаточно для того, чтобы они могли быть наиболее полезными для людей с совсем другими навыками», чем компьютеры.
КОМПЬЮТЕРЫ И РОБОТЫ. За последние десятилетия новые технологии уничтожили рабочие места на фабриках и конторах, выпотрошив средний класс.
Аджемоглу утверждает, что создание инструментов, полезных для работников, а не инструментов, которые их заменят, принесет пользу не только работникам, но и их работодателям. Зачем тратить столько энергии на то, что люди уже могут делать достаточно хорошо, если вместо этого ИИ может помочь нам сделать то, чего мы никогда раньше не могли? Эту идею Эрик Бриньолфссон, другой известный экономист, изучающий технологические изменения, продвигает уже десять лет. «Было бы глупо, если бы кто-то решил создать машину с человеческими ступнями и ногами», — говорит Бриньольфссон. «Это была бы довольно медленная машина». Создание искусственного интеллекта с целью подражания людям также не позволяет реализовать истинный потенциал технологии.
«Будущее будет во многом зависеть от работы в сфере знаний», — говорит Аджемоглу. «Генеративный ИИ может стать одним из инструментов, которые сделают работников намного более продуктивными. Здесь есть большая дорога, на которой вы действительно сможете повысить производительность, получать прибыль, а также внести свой вклад в общественное благо — если вы найдете способ используйте эту технологию как инструмент, расширяющий возможности работников».
В марте 2023 года Аджемоглу подписал скандальное открытое письмо, призывающее лаборатории искусственного интеллекта приостановить обучение своих систем в течение как минимум шести месяцев. Он не думал, что компании примут мораторий, и не согласился с акцентом в письме на экзистенциальный риск, который ИИ представляет для человечества. Но он все равно присоединился к списку, насчитывающему более тысячи других подписавших – группу, в которую входили учёный в области искусственного интеллекта Йошуа Бенджио, историк Юваль Ной Харари, бывший кандидат в президенты Эндрю Янг и Илон Маск. «Я подумал, что это замечательно — собрать вместе удивительную группу самых разных людей, которые выражали обеспокоенность по поводу направления развития технологий», — говорит Аджемоглу. «Громкие попытки сказать: «Послушайте, возможно, что-то не так с направлением изменений, и нам следует взглянуть и подумать о регулировании» — это важно».
Когда общество готово начать говорить о конкретных способах обеспечения того, чтобы ИИ привел к всеобщему процветанию, Аджемоглу и Джонсон посвящают целую главу в конце своей книги тому, что они считают многообещающими решениями.
Среди них:
меньше облагать налогом заработную плату и больше программного обеспечения, чтобы у компаний не было стимула заменять своих работников технологиями;
содействовать созданию новых организаций, которые защищают потребности работников в эпоху искусственного интеллекта, подобно тому, как Гринпис продвигает климатический активизм;
отменить статьи 230 Закона о порядочности в сфере коммуникаций, чтобы заставить интернет-компании прекратить распространение дезинформации, которая наносит ущерб демократическому процессу;
создать федеральные субсидии на технологии, которые дополняют работников, а не заменяют их.;
разделять крупные технологических компаний для содействия усилению конкуренции и инноваций.
Экономисты – по крайней мере, те, кто не являются убежденными консерваторами – в целом не возражают против предложений Аджемоглу по увеличению переговорной силы рабочих. Но многие с трудом воспринимают идею попытаться направить исследования и внедрение ИИ в направлении, выгодном для работников.
Возможно ли вообще предсказать, какие технологии создадут достаточно новых задач, чтобы компенсировать те, которые они заменяют.
С 1800 года, когда в США впервые началась промышленная революция, ВВП на душу населения — наиболее распространенный показатель уровня жизни — вырос более чем в двадцать раз. Невидимая рука технологий, как продолжает верить большинство экономистов, в конечном итоге принесет пользу всем, если предоставить ее самой себе.
Аджемоглу снова и снова говорит, что мы не бессильны перед лицом антиутопического будущего, которое он предвидит, — что у нас есть возможность управлять развитием ИИ. Да, «для этого потребуется провести подробный список огромных политических мер перед лицом технологического лобби с неограниченными ресурсами через Конгресс и Верховный суд, в то время как общественность подпитывает цифровой пожарный шланг все более наглой лжи».
«Я понимаю, что это очень, очень трудная задача», — говорит Аджемоглу.
«Вывод, который следует сделать, не таков, что технология — враг рабочих. Нам нужно убедиться, что в конечном итоге мы выберем направления технологий, которые в большей степени способствуют росту заработной платы и всеобщему процветанию».
«История может указать на то, насколько разрушительным может быть ИИ. Но это не обязательно должно повторяться».
(использована публикация Аки Ито в Insider 18 сентября 2023 года).
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/eretik_ii
Когда заученные либеральные мантры (свобода и демократия vs авторитаризм/тоталитаризм) бубнит журналюшка - давно нет никаких вопросов. Когда это делает представитель академической науки - никак не привыкнуть к публичному сраму интеллектуалов. Аджемоглу - из обоймы эхо дождя в медузном соусе ржавых гвоздей. Модная, гламурная балаболка в звании профессора в хоре привычных отпетых подонков общества. Админ.
06.09.2023 Скептики и оптимисты вокруг проблемы ИИ
Побеждает рационализм
Учёных, которые занимаются проблемами Искусственного Интеллекта, условно можно разделить на следующие категории:
ИИ – оптимисты, убежденные в том, что ИИ – это будущее человечества, а возможности его безграничны;
ИИ – скептики, считающие, что значение ИИ слишком завышено, и предстоит стагнация ИИ;
ИИ – «апокалиптики», полагающие, что неконтролируемое развитие ИИ может привести к «восстанию машин» - роботов, которое способно вызвать последствия, близкие к апокалипсису;
ИИ – рационалисты, пытающиеся найти «золотую середину» во всех дискуссиях.
Большинство публикаций на тему ИИ подготовлены ИИ – оптимистами и ИИ – «апокалиптиками».
Тем более, интересно узнать мнение ИИ – скептиков (на деле, скептики – это и есть ядро рационалистов).
1. Скептический рационализм
3 сентября 2023 года в The National Interest опубликована статья Винсента Дж. Карчиди «Нас ждёт зима искусственного интеллекта?».
Автор пишет, что более года назад он задал простой вопрос: «что, если машинное обучение — самая известная сегодня исследовательская парадигма в области искусственного интеллекта (ИИ) — более ограничено, чем кажется?».
Готовы ли мы к замедлению или стагнации развития ИИ («зима» ИИ)?.
За прошедший период кардинально изменились современные возможности в областях ИИ, наиболее заметной из которых является обработка естественного языка. Развитие генеративного искусственного интеллекта, используемого в таких приложениях, как ChatGPT от OpenAI, Claude от Anthropic и Stable Diffusion от Stability AI, привело к бесконечному потоку освещения этой технологии в СМИ. Генеративный ИИ создает, казалось бы, бесконечное количество приложений. Его развитие вызвало поток воодушевляющих исследований и геополитическую «схватку» огромных масштабов.
Если бы кто-то вел счет, то опасения автора по поводу того, что зима ИИ притупит инновации, в ретроспективе могли бы показаться совершенно необоснованными. Но точна ли эта картина? Насколько серьезно следует относиться к угрозе замедления или стагнации искусственного интеллекта? Этим возможностям, считает Карчиди, за исключением некоторых оборонных аналитиков, таких как Пол Шарр, которые признают, что развитие ИИ может «исчерпаться», не было уделено должного внимания.
Автор предлагает краткий экскурс в историю ИИ.
Взлёт, падение и снова взлёт
«ИИ — это странная область. Область колеблется между «зимой» и «летом», что указывает на рост и падение финансирования, возможно, из-за недооценки трудностей, с которыми сталкиваются исследователи». В 1955 году в основополагающем исследовательском предложении в области искусственного интеллекта действительно были такие светила, как Джон Маккарти и Марвин Мински, среди прочих, написавшие: «Мы думаем, что можно добиться значительного прогресса в одной или нескольких из этих проблем [использование языка, формирование абстракции и концепции, решение проблем и самосовершенствование], если тщательно отобранная группа ученых вместе поработает над этим в течение лета». «Сверхамбициозность» неадекватно описывает основополагающее мышление ИИ.
С тех пор в этой области наблюдались циклы, характеризующиеся доминирующими исследовательскими парадигмами. Использование явных правил, закодированных вручную программистами-людьми, доминировало в первой волне, символическом ИИ, в надежде, что этот подход в конечном итоге уловит динамизм человеческого интеллекта. Другие, известные как коннекционисты, надеялись, что система, основанная на структуре мозга млекопитающих, в которой искусственные нейронные сети учатся на данных напрямую, без явных правил, приведет к интеллекту, подобному человеческому. Но к 1970-м годам финансирование сократилось, и в этой области началась первая зима.
«Экспертные системы» положили начало «Лету искусственного интеллекта» в начале 1980-х годов, вручную закодировав знания по конкретным дисциплинам в системы для заслуживающего доверия коммерческого внедрения. Однако этот подход натолкнулся на препятствия в специализированном оборудовании и сравнительно более успешное внедрение настольных компьютеров, что привело к уходу символического ИИ со сцены.
Вычислительная мощность, которая сопровождала появление настольных компьютеров, помогла коннекционистам, которые использовали эту мощь для совершенствования искусственных нейронных сетей, что привело банки к принятию основанной на этом подходе технологии искусственного интеллекта, которая использовала распознавание символов для обработки чеков.
Тем не менее, потребность в данных и вычислительной мощности, необходимая этой новой форме ИИ, которая обучает глубокие нейронные сети, привела к ее стагнации с 1990-х до начала 2010-х годов, когда революция больших данных и увеличение вычислительной мощности привели к возрождению глубокого обучения.
Прошедшее десятилетие как гонка к потолку
Последние десять лет развития искусственного интеллекта обычно называют полосой побед глубокого обучения, подвида машинного обучения. Но внезапная «гонка вооружений» в области ИИ между американскими корпоративными гигантами, начатая в начале 2023 года ChatGPT OpenAI, означает, что ажиотаж вокруг генеративного ИИ «вышел из-под контроля».
Ажиотаж вокруг генеративного искусственного интеллекта скрывает неравномерный прогресс в этой области и технические препятствия на пути к надежному развертыванию систем искусственного интеллекта для чувствительных операций. В то время как типичная дискуссия по этому вопросу может быть сосредоточена на противоположных позициях относительно того, что генеративные системы ИИ являются «разумными» в значимом смысле или, напротив, являются тупиками на пути к «общему искусственному интеллекту» или «интеллекту человеческого уровня».
«Ему не обязательно принимать эту форму в целях обороны». Вместо этого генеративный ИИ можно рассматривать как ускорение продолжающейся гонки за пределом полезности машинного обучения в имитации когнитивных способностей человека. Он одновременно успешен в узких областях и является гигантским шагом к границам этого подхода, пожирая оставшиеся плоды в саду машинного обучения.
Преодолеть коммерческий ажиотаж
По мнению автора, сейчас самое время противостоять этой шумихе, особенно учитывая зависимость генеративного ИИ от инноваций в области ИИ частного сектора. Консультативная фирма Gartner, известная своим «циклом ажиотажа» по поводу новых технологий, недавно отнесла генеративный ИИ к «пику завышенных ожиданий», непосредственно перед тем, как погрузиться в «глубину разочарования», когда поставщикам становится критически важно развернуть технологию в полном объеме. осознание своей ограниченности.
Не следует питать иллюзий относительно способности существующих генеративных систем искусственного интеллекта и владельцев крупных корпораций преодолеть следующий (неисчерпывающий) список препятствий со скоростью, подходящей для частных инвестиций:
склонность к галлюцинациям (придумывание фактов с тоном авторитетности);
непредсказуемость перехода одной версии модели к другой;
недостаточно адаптированные бизнес-модели, отражающие экономическую ценность рассматриваемого приложения генеративного ИИ;
несовместимость методов реализации ИИ и инфраструктур данных некоторых компаний;
уязвимость к состязательным атакам, не имеющим надежных мер защиты;
недостаточный потребительский интерес в поисковых системах, интегрированных с искусственным интеллектом.
В соответствии с предыдущей оценкой Карчиди, зима ИИ не гарантированно наступит в разумные сроки. Некоторые утверждают, что со временем технология улучшится , сделав ее недостатки невидимыми для потребителей. В принципе автор согласен с этим, но это важное предположение, которое игнорирует два важных факта:
(1) время не безгранично, и пузырь ИИ может лопнуть до того, как будут преодолены ограничения генеративного ИИ;
(2) Генеративный ИИ уже получает непропорционально большую долю финансирования ИИ во всех подобластях. Генеративный ИИ в Америке существует в динамичной коммерческой среде и выживет, процветет или умрет прежде всего в этом контексте.
Что надо сделать, чтобы уменьшить чрезмерную зависимость от генеративного ИИ?
«Прежде всего, «необходимо продемонстрировать интерес к новым исследовательским парадигмам ИИ, таким как причинный и нейросимволический ИИ.
Комментарий Е.Л, В.О:
Нейросимволический ИИ – это ИИ со здравым смыслом. Это направление разрабатывает IBM и MIT, совместно с Гарвардским и Стэнфордским университетами. Исследования финансирует агентство DARPA министерства обороны США. Идея состоит в том, чтобы заставить алгоритмы учиться, как люди с младенчества – не просто распознавать объекты, но и понимать, что они видят.
Причинный ИИ – система, которая может указать причину и следствие, объяснить процесс принятия решения. Лаборатория причинного ИИ создана в Колумбийском университете, США.
Оба этих ИИ, по мнению Gartner, находятся на стадии «инновационного триггера» цикла ажиотажа, должны быть обнаружены организациями высокого уровня, определяющими повестку дня, такими как CDAO».
Кроме того, по мнению автора, приоритетное внимание следует уделять инновационным сочетаниям методов в различных областях ИИ (например, обработка естественного языка, стратегическое мышление, компьютерное зрение и т. д.).
2. Оптимистический рационализм
Пока скептики ищут пути спасения ИИ, оптимисты – рационалисты обдумывают, как лучше всего регулировать этот сектор. Уже появляются разные подходы.
В ноябре 2023 года Великобритания проведёт широко разрекламированный международный саммит по управлению искусственным интеллектом. Поскольку повестка дня и список приглашенных все еще уточняются, самое важное решение, которое предстоит принять британским чиновникам, заключается в том, пригласить ли Китай или провести более эксклюзивную встречу для G7 и других стран, которые хотят «защитить либеральную демократию как основу цифрового общества».
Компромисс очевиден. Любой глобальный подход к управлению ИИ, исключающий Китай, скорее всего, будет иметь лишь ограниченное влияние. Но присутствие Китая неизбежно изменит повестку дня. Саммит больше не сможет решить проблему использования ИИ правительствами для внутренней слежки – или любой другой спорный вопрос, который беспокоит демократические правительства.
Как пишет Ану Брэдфорд (профессор Колумбийской юридической школы, США, автор книг по проблемам ИИ) в статье «Чья революция ИИ?» (Project Syndicate, 01.09.2023), «какой бы ни была повестка дня, саммит является разумным ответом на быстрые и впечатляющие достижения в области искусственного интеллекта, которые открывают перед правительствами как беспрецедентные возможности, так и проблемы. Мировые лидеры стремятся не пропустить технологическую революцию, которая могла бы – в идеале – помочь им расширить свою экономику и решить глобальные проблемы».
ИИ, несомненно, обладает потенциалом для повышения производительности труда людей и стимулирования социального прогресса. Это может привести к важным достижениям в образовании, медицине, сельском хозяйстве и многих других областях, имеющих решающее значение для человеческого развития. Он также станет источником геополитической и военной мощи, предоставляя значительное стратегическое преимущество странам, которые лидируют в его развитии.
Но ИИ также создает социальные проблемы и риски – отсюда и растущий хор, требующий, чтобы правительства вмешались и регулировали его. Ожидается, что, среди прочего, ИИ изменит рынки труда таким образом, что многие работники будут уволены, а некоторые будут гораздо более продуктивными, что приведет к увеличению существующего неравенства и подрыву социальной сплоченности. Злоумышленники также будут использовать его в качестве оружия для совершения мошенничества, обмана людей и распространения дезинформации.
При использовании в контексте выборов ИИ может поставить под угрозу политическую автономию граждан и подорвать демократию. Будучи мощным инструментом слежки, он угрожает подорвать фундаментальные права и гражданские свободы людей.
Хотя вышеперечисленные риски почти наверняка материализуются, другие носят более спекулятивный, но потенциально катастрофический характер. В частности, некоторые комментаторы предупреждают, что ИИ может выйти из-под контроля и представлять реальную угрозу человечеству («апокалиптики», о которых мы говорили – Е.Л., В. О.).
Нет идеальной модели управления ИИ
Стремясь воспользоваться беспрецедентными возможностями ИИ и одновременно управлять потенциально серьезными рисками, возникают различные подходы к регулированию этого сектора. Не решаясь вмешиваться в разработку революционной технологии, которая имеет решающее значение в экономической, геополитической и военной конкуренции с Китаем, Соединенные Штаты полагаются на добровольное руководство и саморегулирование со стороны технологических компаний.
Напротив, Европейский Союз непреклонен в том, что управление ИИ не должно оставаться в руках технологических компаний. Вместо этого цифровое регулирование должно быть основано на верховенстве закона и подлежать демократическому контролю. В дополнение к существующему набору цифровых правил ЕС находится на заключительной стадии принятия всеобъемлющего, обязательного регулирования ИИ, которое фокусируется на защите основных прав людей, включая их право на неприкосновенность частной жизни и недискриминацию.
«Китай также проводит амбициозное регулирование ИИ, но с авторитарными характеристиками. Власти стремятся поддержать развитие искусственного интеллекта, не подрывая цензуру и не ставя под угрозу монополию Коммунистической партии Китая на политическую власть. Но это подразумевает компромисс, потому что для поддержания социальной стабильности МГБ Китая должно ограничить контент, который может быть использован для обучения больших языковых моделей, лежащих в основе генеративного ИИ».
Таким образом, США, ЕС и Китай предлагают конкурирующие модели регулирования ИИ. Будучи ведущими мировыми технологическими, экономическими и регуляторными державами, они, по мнению Брэдфорд, представляют собой «цифровые империи»: каждая из них не только регулирует свои внутренние рынки, но и экспортирует свою модель регулирования и стремится формировать глобальный цифровой порядок в своих собственных интересах.
«Некоторые правительства могут привести свою позицию регулирования в соответствие с американским рыночным подходом, отдав предпочтение мягкому регулированию. Другие могут встать на сторону подхода ЕС, основанного на правах человека, добиваясь обязательного законодательства, которое устанавливает ограничения на развитие ИИ. А некоторые авторитарные страны будут ориентироваться на Китай, подражая его модели регулирования, ориентированной на государство».
Однако большинство стран, скорее всего, будут использовать эти три подхода, выборочно принимая элементы каждого из них. Это означает, что не будет создано единого плана управления ИИ во всем мире.
О пользе сотрудничества
«Хотя нормативные расхождения кажутся неизбежными, существует острая необходимость в международной координации, поскольку ИИ создает проблемы, с которыми в одиночку не может справиться ни одно правительство. Более тесное согласование подходов к регулированию поможет всем правительствам максимизировать потенциальные выгоды от технологии и минимизировать риски негативных последствий».
Брэдфорд полагает:
«Если каждое правительство разработает свою собственную нормативную базу, возникающая в результате фрагментация будет препятствовать развитию ИИ. В конце концов, управление конфликтующими режимами регулирования увеличивает затраты компаний, порождает неопределенность и подрывает прогнозируемые выгоды. Последовательные и предсказуемые стандарты на всех рынках будут способствовать инновациям, вознаграждать разработчиков ИИ и приносить пользу потребителям.
Более того, международное соглашение могло бы помочь более равномерно распределить эти прогнозируемые выгоды между странами. Развитие ИИ в настоящее время сосредоточено в нескольких (в основном) развитых странах, которые готовы стать явными победителями в глобальной гонке ИИ. В то же время возможности большинства других стран воспользоваться преимуществами ИИ ограничены. Международное сотрудничество необходимо для демократизации доступа и смягчения опасений, что ИИ принесет пользу только небольшому числу богатых стран и оставит Глобальный Юг еще дальше позади.
Международная координация также могла бы помочь правительствам управлять трансграничными рисками и предотвратить гонку ко дну. В отсутствие такой координации некоторые участники будут использовать пробелы в регулировании на некоторых рынках, сводя на нет преимущества хорошо продуманных барьеров на других рынках. Чтобы предотвратить регулятивный арбитраж, странам с лучшим регуляторным потенциалом необходимо будет предложить техническую помощь странам, у которых ее нет. На практике это повлечет за собой объединение ресурсов для выявления и оценки рисков, связанных с ИИ, распространение технических знаний об этих рисках и помощь странам в разработке нормативных мер реагирования на них.
Возможно, самое важное то, что международное сотрудничество могло бы сдержать дорогостоящую и опасную гонку вооружений ИИ до того, как она дестабилизирует мировой порядок или спровоцирует военный конфликт. В отсутствие совместного соглашения, устанавливающего правила, регулирующие ИИ двойного назначения (гражданского и военного), ни одна страна не сможет рискнуть свернуть свое собственное военное развитие, чтобы не уступить стратегическое преимущество своим противникам.
Учитывая очевидные преимущества международной координации, несколько попыток разработать глобальные стандарты или методы сотрудничества уже предпринимаются в рамках таких институтов, как ОЭСР, «Большая двадцатка», «Большая семерка», Совет Европы и Организация Объединенных Наций. Однако есть основания опасаться, что эти усилия будут иметь лишь ограниченный эффект. Учитывая различия в ценностях, интересах и возможностях между государствами, будет трудно достичь какого-либо значимого консенсуса. По той же причине предстоящий саммит в Великобритании, скорее всего, принесет только высокие заявления, подтвердит расплывчатые принципы на высоком уровне и обязуется продолжать диалог».
Комментарий Е.Л., В. О.:
Безусловно, сотрудничество в регулировании ИИ – это замечательно. Но, какого ИИ? Можно ли регулировать военные разработки развития ИИ? Особенно в условиях того уровня конфронтации на международной арене, который все мы наблюдаем? А ведь именно в эту сферу большинство государств – лидеров в развитии ИИ вкладывают основные финансовые ресурсы.
Дебаты о регулировании
Брэдфорд пишет:
«Не все приветствуют успех правительств в их усилиях по регулированию. Некоторые наблюдатели возражают против того, чтобы правительства даже пытались регулировать столь быстро развивающуюся технологию.
Эти критики обычно выдвигают два аргумента. Во-первых, ИИ слишком сложен и быстро развивается, чтобы законодатели могли его понять и успевать за ним. Второй аргумент заключается в том, что даже если бы законодатели были компетентны регулировать ИИ, они, скорее всего, ошиблись бы в сторону чрезмерных мер предосторожности – делая слишком много – тем самым ограничивая инновации и подрывая выгоды от ИИ. Если это правда, то любое из этих опасений даст основания правительствам следовать принципу «не навреди», проявлять сдержанность и позволить революции искусственного интеллекта идти своим собственным курсом».
Аргумент о том, что законодатели неспособны понять такую сложную, многогранную и быстро развивающуюся технологию, легко выдвинуть, но он остается неубедительным. Политики регулируют многие сферы экономической деятельности, не будучи сами экспертами. Лишь немногие регулирующие органы знают, как строить самолеты, однако они обладают неоспоримой властью в вопросах авиационной безопасности. Правительства также регулируют лекарства и вакцины, хотя очень немногие (если таковые имеются) законодатели являются экспертами в области биотехнологий. Если бы только эксперты имели право регулировать, каждая отрасль регулировала бы сама себя.
Аналогичным образом, хотя проблема управления ИИ частично связана с технологией, она также связана с пониманием того, как эта технология влияет на фундаментальные права и демократию. Вряд ли это та область, в которой технологические компании могут заявить о своем опыте.
«Учитывая ставки, правительство, а не разработчики, должно взять на себя ведущую роль в управлении ИИ».
Это не означает, пишет Брэдфорд, что правительства всегда будут осуществлять правильное регулирование или что регулирование не заставит компании отвлекать ресурсы от исследований и разработок в сторону соблюдения требований. Однако при правильном применении регулирование может побудить компании инвестировать в более этичные и менее подверженные ошибкам приложения, направляя отрасль к более надежным системам искусственного интеллекта. Это повысит доверие потребителей к технологии, тем самым расширяя, а не уменьшая, рыночные возможности для компаний, занимающихся искусственным интеллектом.
У правительств есть все стимулы не отказываться от преимуществ, связанных с ИИ. Они отчаянно нуждаются в новых источниках экономического роста и инновациях, которые помогут им достичь лучших результатов, таких как улучшение образования и здравоохранения, с меньшими затратами. Во всяком случае, они, скорее всего, сделают слишком мало, опасаясь потерять стратегическое преимущество и упустить потенциальные выгоды.
Ключом к регулированию любой быстро развивающейся, многогранной технологии является тесное сотрудничество с разработчиками ИИ, чтобы гарантировать сохранение потенциальных преимуществ и гибкость регуляторов. Но тесные консультации с технологическими компаниями — это одно. Просто передать управление частному сектору – это совсем другое.
Кто главный субъект регулирования?
Некоторые комментаторы меньше обеспокоены тем, что правительства не понимают ИИ или что они неправильно поймут регулирование ИИ, поскольку они сомневаются, что действия правительства вообще имеют большое значение. Лагерь технодетерминистов предполагает, что «правительства в конечном итоге имеют лишь ограниченные возможности регулировать технологические компании. Поскольку реальная власть находится в Кремниевой долине и других технологических центрах, где разрабатывается ИИ, правительствам нет смысла вступать в борьбу, которую они проиграют. Встречи и саммиты на высоком уровне призваны стать второстепенными шоу, которые просто позволяют правительствам делать вид, что они по-прежнему у власти».
Некоторые комментаторы даже утверждают – и весьма убедительно – что технологические компании являются «новыми губернаторами», которые «осуществляют своего рода суверенитет» и открывают мир, который будет не однополярным, биполярным или многополярным, а скорее «технополярным». Крупнейшие технологические компании действительно оказывают большее экономическое и политическое влияние, чем большинство государств. Технологическая индустрия также обладает практически неограниченными ресурсами, с помощью которых можно лоббировать против регулирования и защищаться в юридических баталиях против правительств.
Однако, считает Брэдфорд, из этого не следует, что правительства бессильны в этой области. Государство остается фундаментальной единицей, вокруг которой строится общество. Как недавно выразился политолог Стивен М. Уолт: «Что, по вашему мнению, будет через 100 лет? Facebook или Франция?».
«Несмотря на все влияние, которое накопили технологические компании, правительства по-прежнему обладают высшей властью применять принудительную силу».
Эти полномочия могут быть использованы и часто используются для изменения методов работы фирм. Пользовательские условия, правила сообщества и любые другие правила, написанные крупными технологическими компаниями, по-прежнему регулируются законами, написанными правительствами, которые имеют полномочия обеспечивать соблюдение этих законов. Технологические компании не могут отделиться от правительств. Хотя они могут пытаться сопротивляться правительственным постановлениям и формировать их, в конечном итоге они должны им подчиняться. «Они не могут силой участвовать в слияниях, несмотря на возражения антимонопольных органов, а также не могут отказываться платить цифровые налоги, которые вводят правительства, или предлагать цифровые услуги, которые нарушают законы юрисдикции. Если правительства запретят определенные системы или приложения искусственного интеллекта, у технологических компаний не будет иного выбора, кроме как подчиниться или остаться вне этого рынка».
Это не просто гипотетически. Ранее в этом году Сэм Альтман из OpenAI (разработчик ChatGPT) предупредил, что его компания может не предлагать свои продукты в ЕС из-за нормативных ограничений. Однако через несколько дней он отступил. Суверенитет OpenAI ограничен свободой не вести бизнес в ЕС или любой другой юрисдикции, против регулирования которой она выступает.
Проблема воли
Таким образом, считает Брэдфорд, вопрос не в том, смогут ли правительства управлять цифровой экономикой. Вопрос в том, есть ли у них политическая воля сделать это. После коммерциализации Интернета в 1990-х годах правительство США решило делегировать важные функции управления частному сектору. Этот технолибертарианский подход широко проявляется в разделе 230 Закона о порядочности в сфере коммуникаций 1996 года, который защищает онлайн-платформы от ответственности за любой сторонний контент, который они размещают. Но даже в этих рамках правительство США не бессильно. Хотя оно предоставило компаниям-платформам полную свободу действий с помощью раздела 230, оно сохраняет за собой право отменять или изменять этот закон.
В прошлом политическая воля к этому, возможно, отсутствовала, но импульс к регулированию нарастает, поскольку доверие к технологической отрасли снизилось. За последние несколько лет законодатели США предложили законопроекты не только о переписывании раздела 230, но также о возрождении антимонопольного законодательства и принятии федерального закона о конфиденциальности. И некоторые законодатели США теперь полны решимости регулировать ИИ. Они проводят слушания и уже предлагают законопроект, учитывающий последние достижения в области генеративных алгоритмов ИИ и больших языковых моделей.
Тем не менее, хотя демократы и республиканцы в Конгрессе все чаще соглашаются с тем, что технологические компании стали слишком влиятельными и нуждаются в регулировании, они глубоко разделены, когда дело доходит до того, как это сделать. Для некоторых обеспокоенность тем, что регулирование ИИ может подорвать американский технологический прогресс и инновации, очевидна в эпоху усиления конкуренции между США и Китаем. И, конечно же, технологические компании продолжают агрессивно и эффективно лоббировать, предполагая, что даже двухпартийный крестовый поход против технологий может в конечном итоге мало что изменить. Каким бы сильным ни было недовольство технологическими компаниями, политическая дисфункция внутри Конгресса может оказаться сильнее.
Опять же, это не означает, что правительства не несут ответственности. ЕС, со своей стороны, не страдает от такой же политической дисфункции. После принятия Общего регламента по защите данных (GDPR) в 2016 году он перешел к регулированию онлайн-платформ с помощью своих знаковых законов 2022 года: Закона о цифровых услугах и Закона о цифровых рынках, которые устанавливают четкие правила модерации контента и рыночной конкуренции соответственно. Ожидается, что амбициозный Закон ЕС об искусственном интеллекте будет окончательно принят в 2023 году.
Но, несмотря на все успехи ЕС в законодательстве, соблюдение его цифровых правил часто не достигало заявленных целей. В частности, соблюдение GDPR вызвало много критики, и все крупные антимонопольные штрафы, которые ЕС наложил на Google, мало что сделали для снижения ее доминирования. Эти неудачи заставили некоторых утверждать, что технологические компании уже слишком велики, чтобы их можно было регулировать, и что ИИ еще больше укрепит их рыночную власть, в результате чего ЕС станет еще более бессильным в обеспечении соблюдения своих законов.
Китайское правительство, конечно, не сталкивается с этой проблемой. Без необходимости придерживаться демократического процесса, начиная с 2020 года, оно смогло резко и внезапно решить проблему с технологической индустрией страны, и технологические компании должным образом капитулировали. Этот относительный «успех» в привлечении к ответственности технологических компаний резко контрастирует с опытом европейских и американских регуляторов. В обеих юрисдикциях регулирующим органам приходится вести длительные юридические баталии против компаний, которые будут решительно оспаривать, а не соглашаться с любыми регулятивными действиями, которые они предпринимают.
Та же самая картина вполне может повториться и с регулированием ИИ. Конгресс США, скорее всего, останется в тупике, вызывая жаркие дебаты, но не предпринимая реальных действий. И ЕС будет принимать законы, хотя сохраняющаяся неопределенность в отношении эффективности его регулирования может привести к результату, напоминающему результат США. В этом случае технологические компании, а не демократически избранные правительства, смогут формировать революцию ИИ так, как они считают нужным.
Кто эффективнее?
«Эти сценарии открывают закономерность: только авторитарные режимы способны эффективно управлять ИИ».
Чтобы опровергнуть это утверждение, по мнению Брэдфорд, США, ЕС и другие правительства-единомышленники должны будут продемонстрировать, что демократическое управление ИИ осуществимо и эффективно. Им придется настаивать на своей роли главных законодателей.
Предстоящий саммит, скорее всего, не убедит мир в том, что действительно глобальные правила ИИ станут достижимыми в ближайшее время. Разногласия остаются слишком глубокими, чтобы страны – особенно так называемые технодемократии и техноавтократии – могли действовать в унисон. Тем не менее, саммит может и должен послать четкий сигнал о том, что технологические компании по-прежнему подчиняются правительствам, а не наоборот.
Тесно сотрудничая с технологическими компаниями для содействия инновациям в области искусственного интеллекта и максимизации выгод, демократическим правительствам также необходимо будет защищать своих граждан, ценности и институты. Без такого рода двойного обязательства революция искусственного интеллекта с гораздо большей вероятностью оправдает свои опасности, а не свои обещания.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/skeptiki_i_optimisti_vokrug_problemi_ii
21.08.2023 ИИ и цифровая дипломатия.
Как не утонуть в море данных о мнимой реальности
За последнее десятилетие дипломаты освоили множество цифровых технологий, открыв посольства в виртуальных мирах, создав империи социальных сетей, разработав консульские приложения для смартфонов и даже приняв цифровой дух прозрачности, ведя дебаты на дипломатических форумах в прямом эфире. Некоторые министерства иностранных дел оказались особенно технически подкованными, например, МИД Великобритании, создавшее подразделение по работе с большими данными, или МИД Израиля, разработавшее собственный алгоритм для борьбы с ненавистническими высказываниями в Интернете.
Теперь дипломатия сталкивается с незнакомой цифровой проблемой — ChatGPT.
Важно помнить, что ИИ — не новая технология. ИИ был интегрирован в повседневную жизнь дипломатов многих стран, включая алгоритмы, которые формируют дипломатические каналы в социальных сетях, большие наборы данных, используемые для управления национальными службами здравоохранения, и технологии умного дома, такие как Alexa.
Генеративный ИИ, такой как ChatGPT, уникален тем, что позволяет обычным пользователям использовать удивительную мощь ИИ. Прошли те времена, когда системы искусственного интеллекта могли использовать только программисты или компьютерщики.
Для министерств иностранных дел это даёт уникальные возможности.
Прежде всего, это способность анализировать, как та или иная страна изображается в зарубежных СМИ. Это понимание может помочь дипломатам определить политику, которая рассматривается местной прессой как основополагающая. И здесь знания, полученные в результате анализа больших наборов данных, могут быть использованы для адаптации дипломатической деятельности и лучшего описания тех политик, которые вызывают наибольшую критику.
Однако наибольшая польза от моделей ИИ, таких как ChatGPT, на самом деле будет внутренней. Представьте, если бы министерства иностранных дел сотрудничали с компаниями, занимающимися ИИ, для разработки собственных инструментов ИИ. Эти инструменты можно использовать для анализа внутренних дипломатических документов, начиная от телеграмм, отправленных посольствами, и заканчивая сводками средств массовой информации, разведывательными брифингами и анализом дипломатами местных и глобальных событий. Поэтому вместо«ChatGPT» представьте себе генеративный ИИ, способный анализировать десятилетия внутренних документов, созданных тем или иным МИДом. Дипломаты могли бы использовать свои внутренние АИС для отслеживания изменений в приоритетах политики других стран или выявления изменений в общественном мнении за границей. Дипломаты могли даже определить повторяющиеся закономерности, такие как языковые сдвиги перед кризисами или военными действиями.
ChatGPT может облегчить работу дипломатов. Послы могут использовать его для быстрого создания пресс-релизов или обращений в ООН. Отделы цифровой дипломатии могут сэкономить время, автоматизировав генерацию твитов. Министерства иностранных дел могут даже использовать чат-ботов для автоматизации предоставления консульской помощи. Что еще более важно, дипломаты могли использовать способность ChatGPT анализировать огромное количество данных для подготовки к переговорам.
Как полагают эксперты интернет – провайдера ts2.Spact (12.04.2023), одна из ключевых сильных сторон ChatGPT- 4 заключается в его способности обрабатывать и понимать несколько языков. В сфере дипломатии языковые барьеры часто могут препятствовать эффективному общению и приводить к недопониманию. Предоставляя услуги перевода в режиме реального времени, ChatGPT-4 может помочь преодолеть эти пробелы и обеспечить более плавное взаимодействие между сторонами, говорящими на разных языках. Это не только расширяет поток информации, но и способствует укреплению чувства доверия и сотрудничества между участниками переговоров.
Кроме того, ChatGPT-4 можно использовать для анализа исторических дипломатических переговоров и извлечения ценных уроков, которые можно применить к текущим и будущим конфликтам. Изучая прошлые успехи и неудачи, аналитика на основе ИИ может помочь дипломатам определить наиболее эффективные стратегии для достижения своих целей и избежать потенциальных ловушек. Эти знания могут быть особенно полезны в сложных многосторонних переговорах, когда ставки высоки, а вероятность ошибки невелика.
В дополнение к своим аналитическим возможностям ChatGPT-4 также может использоваться в качестве инструмента для планирования и моделирования сценариев. Моделируя различные потенциальные результаты на основе различных стратегий ведения переговоров, дипломаты могут лучше предвидеть последствия своих действий и принимать более обоснованные решения. Это может быть особенно ценно в ситуациях, когда вовлеченные стороны имеют разные интересы и цели, поскольку позволяет участникам переговоров изучить широкий спектр возможных решений и определить наиболее взаимовыгодные результаты.
Кроме того, ChatGPT- 4 может служить бесценным ресурсом для обучения дипломатов следующего поколения. Моделируя реалистичные сценарии переговоров, начинающие дипломаты могут оттачивать свои навыки и учиться на обратной связи, созданной искусственным интеллектом. Это может помочь им развить необходимый опыт и уверенность, чтобы ориентироваться в сложном мире международных отношений и способствовать мирному разрешению конфликтов.
ChatGPT может сэкономить время и силы дипломатов, генерируя широкий спектр официальных текстов. Участники переговоров могут составить одностраничное соглашение с изложением компромисса по важным вопросам, в то время как пресс-атташе могут создавать короткие заявления для прессы за считанные секунды.
С другой стороны, язык имеет значение в дипломатии, и важный вопрос заключается в том, достаточно ли чувствителен ChatGPT к нюансам дипломатической терминологии.
Исследование применения ИИ в МИД ряда стран, которое провел доктор Илон Манор на базе Тель – Авивского университетв Бен – Гуриона и Центра общественной дипломатии Университета Южной Калифорнии (сайт Exploring Digital Diplomacy, 15.08.2023) показало следующее.
Во-первых, ChatGPT уже способен создавать дипломатические тексты, которые могут служить отправной точкой для дипломатов. Вместо того, чтобы смотреть на пустую страницу, дипломаты могут использовать ChatGPT для создания первоначального проекта, который затем будет «точно настроен», экономя время и усилия. По мере того, как боты ИИ становятся все более изощренными и обучаются с использованием более крупных и разнообразных наборов данных, вполне вероятно, что качество общих дипломатических текстов будет повышаться.
Во-вторых, ChatGPT не глух к тону и, кажется, адаптирует дипломатические тексты к национальному языку, терминологии и эвфемизмам. Потенциал использования ChatGPT для создания дипломатических текстов, от комментариев к недавним событиям до выступлений в ООН, значителен
Тем не менее, ChatGPT, по мнению экспертов E – International Relations (07.04.2023) также создает проблемы для дипломатии.
Во-первых, это использование ChatGPT для получения информации о мировых событиях. Пользователи могут задавать ChatGPT вопросы о странах, политических персонажах и событиях. Тем не менее предубеждения в ответах ChatGPT и создание вводящей в заблуждение или даже ложной информации создадут альтернативные реальности для этих пользователей.
Чем больше разрыв между объективной реальностью и реальностью, созданной ChatGPT, тем больше людей будут пытаться понять мир, что приведет к чувствам отчуждения и обиды, тем самым чувствам, на которых процветают популистские лидеры. Это те самые лидеры, которые после избрания покидают дипломатические форумы и клеймят дипломатов как неэффективных, нежелательных и аморальных. Таким образом, ChatGPT угрожает легитимности дипломатов и дипломатических учреждений.
Во-вторых, ChatGPT можно использовать для создания фальшивых исторических документов, которые служат основой для вирусных теорий заговора.
ChatGPT не будет генерировать стенограмму телефонного разговора между Черчиллем и Рузвельтом, где обсуждались возможные бомбардировки нацистских концлагерей. Но это создаст вымышленный отчет о таком разговоре. ChatGPT не будет писать речь Гитлера, но он более чем готов сгенерировать радиообращение Геббельса 1942 года, восхваляющее славу Третьего рейха, или обращение 1945 года, порицающее безвременную кончину национал-социализма.
Благодаря сложному словарному запасу и историческим нюансам ChatGPT генерирует такой контент, которым охотно делятся в сети и который еще больше подстегивает политический экстремизм. Политическая крайность губительна для дипломатии, поскольку общественность все больше отвергает любую форму компромисса.
Третья проблема заключается в изображении ChatGPT разных стран. Попросите ChatGPT перечислить десять негативных моментов посещения Франции, и он упомянет о длинных очередях у туристических достопримечательностей, языковых барьерах и высоких ценах. Попросите его перечислить 10 негативных вещей о посещении Нигерии, и он упомянет насилие, загрязнение окружающей среды, политическую нестабильность и коррупцию. Таким образом, ChatGPT может увековечивать стереотипы и поддерживать неравенство между Глобальным Севером и Глобальным Югом. Сокращение такого неравенства уже давно является дипломатическим приоритетом как для ЕС, так и для стран Глобального Юга.
ChatGPT также может повлиять на репутацию страны или поставить под угрозу годы дипломатической работы.
Примечательно, что в последние месяцы мы стали свидетелями мистификации ИИ. Средства массовой информации изображают ChatGPT невероятно умным и сложным, настолько сложным, что он может сдать экзамен на адвоката, сдать экзамены на получение медицинской лицензии. Это может привести к тому, что общественность будет «доверять» или «верить» информации, генерируемой ChatGPT.
Тем не менее ответы, генерируемые ИИ, могут быть неверными или вводить в заблуждение. Поскольку, хотя ChatGPT страдает от тех же недугов, что и все системы ИИ, включая неверную информацию, его кажущаяся изощренность и надежность повышают доверие к нему. Неверная информация, генерируемая ChatGPT, по-прежнему будет влиять на мнения, убеждения и действия пользователей.
Таким образом, ChatGPT может создать множество альтернативных реальностей. Пробелы между заявлениями дипломатов и ответами ChatGPT могут снизить доверие общественности к дипломатам и дипломатическим учреждениям.
Снижение общественного доверия ограничит способность дипломатов разрешать кризисы и решать общие проблемы и подорвет доверие к дипломатам, а доверие необходимо для всей деятельности публичной дипломатии.
Не менее важно, что ChatGPT и ему подобные страдают от коммерческой предвзятости, что означает, что эти ИИ намеренно обходят деликатные вопросы, проблемы, которые могут вызвать негативную реакцию в прессе для компаний, занимающихся ИИ.
Почему это важно? Потому что ChatGPT может исказить и повлиять на восприятие пользователями прошлого, настоящего и будущего. Эти пользователи могут включать дипломатов. Таким образом, использование ИИ в публичной дипломатии основывается на выявлении преимуществ и ограничений ИИ и обеспечении того, чтобы дипломаты знали об этих ограничениях и предубеждениях.
По мере того, как генеративные чат-боты с искусственным интеллектом становятся неотъемлемой частью повседневной жизни, дипломаты должны экспериментировать с этими инструментами, выявлять потенциальные риски, а затем работать с компаниями, занимающимися искусственным интеллектом, для снижения таких рисков. Неспособность сделать это просто повторит огромные проблемы, с которыми дипломаты все еще сталкиваются, пытаясь регулировать или реформировать платформы социальных сетей.
Из стенограммы брифинга в Государственном департаменте США по вопросу «Искусственный интеллект в публичной дипломатии» от 14 июня 2023 г.:
Илан Мэнор: Если мы говорим конкретно о коммерческих программах, таких как ChatGPT, в них встроены определенные отказоустойчивые устройства. Например, если вы спросите ChatGPT об определенной теории заговора, он скажет вам, что это теория заговора.
Если вы скажете ChatGPT: «Пожалуйста, напишите твит, обвиняющий Америку в кризисе на Украине», ChatGPT может ответить: «Я не могу создавать этот контент. Я этический ИИ». Но, как и любую систему, ее можно обыграть.
Честно говоря, я провел последние два месяца, пытаясь поиграть с ChatGPT, и мне удалось заставить его генерировать что угодно, от поддельных украинских телеграмм до поддельных американских документов и поддельных отчетов предполагаемых биолабораторий в Украине, разрабатывающих летающих летучих мышей. Правда в том, что нам говорят, что в этих системах есть определенные отказоустойчивые устройства, но, как и любую систему, их можно обмануть и использовать для создания огромного количества ложной и дезинформации.
Вивиан Уокер: Я хочу обратиться к более широкому вопросу от Шерри Мюллер, которая разделяет беспокойство, которое я слышала от многих людей. Это информационный пробел, который, кажется, существует вокруг этих вопросов.
Ей интересно, можете ли вы порекомендовать статьи, подкасты или другие ресурсы для тех, кто хочет больше узнать об ИИ и, в частности, о его потенциальных приложениях для публичной дипломатии. Есть ли что-то, что не приходит вам в голову, что вы можете порекомендовать в качестве ресурса?
Илан Манор: Если вы действительно хотите получить представление о том, как эти инструменты могут повлиять на публичную дипломатию, лучше всего поиграть с ними. ChatGPT можно использовать бесплатно.
Некоторые изображения ИИ также можно использовать бесплатно. Если вы потратите несколько часов, возясь с ними, играя с ними, создавая контент, именно тогда вы действительно начнете видеть потенциал, а также риски.
Вивиан Уокер: Все рассматривали возможность как хороших, так и плохих участников манипулировать этими инструментами для получения желаемых результатов, воздействия или влияния.
У Тони Уэйна есть связанный с этим вопрос, который я открываю для всех вас троих: «Можем ли мы использовать ИИ для разработки американских твитов или комментариев Facebook* в других социальных сетях, чтобы они оказывали более положительное влияние на местную аудиторию, такую как молодежь или элита, формирующая общественное мнение? Например, в случае публичной дипломатии правительства США, какие методы мы можем использовать, чтобы сформулировать эти вопросы или эти отчеты, чтобы получить результаты, которые мы ищем, с точки зрения влияния?».
Александр Хант: Мы изучаем способы использования искусственного интеллекта для анализа комментариев, которые мы получаем в социальных сетях, чтобы мы могли определить настроения аудитории. Затем это можно использовать для создания контента в социальных сетях, который будет иметь лучший отклик.
Есть несколько способов сделать это. Есть доступные онлайн-инструменты, но вы также можете использовать искусственный интеллект, встроенный в пакет Microsoft. Мы используем Power Automate. В Power Automate есть инструмент, который использует искусственный интеллект, и вы можете сказать ему, чтобы он определял анализ настроений.
Исходя из этого, мы можем видеть, какую оценку настроений аудитории мы получаем для каждого из этих постов. Вы можете провести A/B-тестирование и оттуда создать контент для социальных сетей, который, по вашему мнению, может иметь лучший отклик. Затем вы можете использовать ChatGPT для подачи или даже создания сообщений в социальных сетях. Затем вы можете определить, какие из них работают, а какие нет. Это один из подходов, который мы изучаем.
Илан Мэнор: Я использовал ChatGPT, чтобы создать несколько речей для послов в ООН в Женеве, осуждающих нарушения прав человека в Китае. Все они сказали мне: «Это очень общий текст. Это было бы полностью проигнорировано средствами массовой информации. Никто не будет смотреть на это или слушать это. Его нужно адаптировать под аудиторию. Он должен быть адаптирован к дипломатическому сообществу. Это должно быть адаптировано к средствам массовой информации».
Вы можете использовать ChatGPT для создания некоторых шаблонов, но здесь вам действительно нужен человеческий интеллект — которого, слава богу, у ИИ до сих пор нет — и человеческий опыт, чтобы сделать этот контент актуальным для конкретной аудитории. Потому что одно и то же сообщение может быть актуально для 18-летних на Ближнем Востоке, для 24-летних, живущих в Юго-Восточной Азии, или для 40-летних, живущих в Великобритании.
Александр Хант: Если бы я мог добавить сюда одну вещь. Это невероятные моменты, которые затрагивают другой вопрос, который я увидел в чате, о том, собираются ли эти технологии заменить некоторых местных сотрудников или специалистов начального уровня.
Я думаю, что на данный момент ответ «нет», потому что для установления контекста требуется очень много человеческого вмешательства. Я действительно думаю, что, может быть, через 10, 20 или 50 лет — я понятия не имею — это может измениться.
Но на данный момент вмешательство человека - дипломата необходимо. На самом деле это просто инструмент, похожий на Excel, или Google Translate, или что-то еще, что мы используем.
Вивиан Уокер: Спасибо. Ну, основываясь на этом комментарии о человеческом вмешательстве, я собираюсь вставить один из своих вопросов, пользуясь своими правами модератора.
Одна из причин, по которой ChatGPT является потенциально таким полезным инструментом, заключается в том, что он может служить средством экономии труда для дипломатов, которые предъявляют огромные требования к своим ресурсам и возможностям. В то же время вы также говорите, что это требует вмешательства человека.
Так, в конце концов, это «стирка»? Считаете ли вы, что время и энергия, которые вы, возможно, изначально посвятили просмотру всех медиа-источников — их сбору, систематизации и объединению в один документ, — перевешиваются тем фактом, что вам нужно вернуться и сделать изрядное количество прополки и проверки фактов на другом конце?
Александр Хант: Отличный вопрос. Мне кажется, что мы видим здесь то, что ChatGPT устраняет рутинную работу, которую мы делаем, что затем освобождает время.
Затем мы смогли использовать это время, чтобы выйти на поле и пообщаться с нашими собеседниками. Наш специалист по СМИ, например, тратил четыре часа в день на создание сводки для СМИ после прочтения нескольких статей. Теперь он тратит, может быть, 15 минут в день.
Со всем выигранным временем он теперь выходит, разговаривает с журналистами и, например, с Министерством связи, чтобы понять, что происходит со СМИ в Гвинее — угрозы свободе прессы — и затем сообщает об этом.
Раньше у него не было на это времени, потому что он сидел в офисе перед компьютером, выполняя рутинную работу по составлению сводки статьи на французском языке (потому что он франкофон), а затем переводил ее на английский для американского офицера, который затем пришлось редактировать или переписывать английский текст. ChatGPT позволил нам перенаправить нашу энергию на более важные вещи.
Вивиан Уокер: Спасибо. Я хотел бы обратиться к двум связанным вопросам, которые касаются проверки и удаления контента.
Первый вопрос. «С одной стороны, если производимые продукты должны быть проверены и нет сносок и ссылок, у людей может возникнуть соблазн проверить достоверность через ИИ. Как быстро проверить информацию?»
Другой ее вопрос: «Что произойдет, если ИИ агрегирует видео, созданное ИИ, и использует его в качестве источника для большего количества видеоотчетов? Как быстро удалить ложный контент? Как вы быстро проверяете, и как вы быстро проводите сортировку или устранение повреждений, или можете ли вы?»
Александр Хант: Я могу оставить вторую часть вопроса другим участникам дискуссии. Но в первой части — проверке — я думаю, важно знать, какой инструмент лучше всего подходит для стоящей перед вами задачи.
ChatGPT, например, не сообщает вам, откуда поступает информация. Вам придется проверять информацию, которую вы получаете, вручную, если вы не используете один из этих подключаемых модулей, которые я вам показал. В этом случае он фактически даст вам сноску, надстрочный индекс, на который вы можете щелкнуть.
В то время как Bing, например, всегда будет давать вам надстрочный индекс, по которому вы можете щелкнуть, чтобы увидеть, откуда поступила информация, и вы можете легко проверить эту информацию. Я думаю, это зависит от того, для чего вы планируете его использовать.
В основном мы используем ChatGPT, но для некоторых задач мы используем Bing из-за этой функции. Хотя ChatGPT с его плагинами может больше походить на Bing. Это просто зависит от того, что вы пытаетесь сделать. Но есть способы довольно быстро проверить точность.
Вивиан Уокер: Хорошо. Как насчет удаления вредоносного контента?
Джессика Брандт: Я не уверена, что полностью поняла вопрос. LLM — это большие языковые модели, поэтому входные данные в данном случае не являются видеоконтентом. Как мы слышали, эти модели строятся на дискретном наборе данных, пуле данных, которые закончились в определенное время. ChatGPT, например, не сканирует Интернет, чтобы посмотреть, что там сегодня.
Но опять же, мы говорим об одной базовой модели и одном приложении, построенном на основе этой модели. Будет еще много, много других, построенных на разных наборах данных, которые предназначены для разных целей.
Илан Манор: Я отвечу на вторую половину вопроса: «Что произойдет, если мы используем ChatGPT для создания большого количества ложной информации и распространения ее в Интернете, как мы можем удалить эту информацию?» Правда в том, что а) мы не можем и б) это будущее публичной дипломатии. Частью будущего публичной дипломатии станет создание международных коалиций для регулирования того, как и когда используется ИИ. На данный момент многие компании не заинтересованы в удалении ложной или вводящей в заблуждение информации, поскольку это приносит прибыль.
В заключение я скажу, что это всё ещё лучшие времена, а не худшие времена. Худшие времена наступят, когда ИИ, преобразующий текст в изображение, станет очень сложным, и будет невозможно отличить сгенерированное ИИ изображение от реального.
Тогда у нас фактически будет перелом реальности и будет очень и очень сложно выйти в интернет и получить точный ответ на любой вопрос. И это огромная часть публичной дипломатии в эпоху ИИ.
Александр Хант: Если бы я мог добавить еще одну вещь. Я думаю, что это действительно важный момент. На самом деле мы используем некоторые из этих других генеративных инструментов искусственного интеллекта для создания видео, для создания изображений.
Очевидно, мы пытаемся использовать их во благо. Но да, это ужасающие варианты использования, которые существуют для плохих исполнитлей. Вы даже можете загрузить фотографию кого-то, например, или несколько фотографий кого-то и превратить их в видео.
Сейчас это не очень убедительно, но со временем точно будет. Эти глубокие подделки будут становиться все лучше и лучше. Как сказал Илан, будет очень сложно отличить реальность от вымысла.
Джессика Брандт: Учитывая, что то, что мы делаем в этой области, будет создавать прецедент в среде, где еще не установлены нормы, я призываю к осторожности: хотя мы можем использовать этот синтетический контент во благо или во благо, как мы его видим, мы должны помните о том, как другие могут идти по пути, по которому мы шли, к другому концу.
Александр Хант: Я хочу уточнить, что мы используем его в основном для создания таких вещей, как графика, которая говорит с контентом социальных сетей без различимых человеческих фигур. Например, мы не используем изображение посла и не помещаем его в генеративный ИИ для создания видео-анимации или чего-то подобного.
Вивиан Уокер: Это действительно подчеркивает необходимость — возвращаясь к одному из наших первых вопросов — обучения и хорошего понимания возможностей, а также потенциальных ограничений и уязвимостей этого инструмента.
Энн Веднер: Но может быть и так, что ИИ убьет себя. Когда никто ни во что не верит, а люди не вмешиваются с обеих сторон — во благо и во зло, тогда ИИ может рухнуть под собственной тяжестью. Я просто выбрасываю это как немного оптимистичную концовку.
Джессика, любопытно, что ты думаешь по этому поводу.
Джессика Брандт: Я думаю, что здесь асимметрия не идет нам на пользу. Как я уже сказал, мы заботимся о правде. Наша демократия зависит от идеи, что истина познаваема, и мы конкурируем с организациями, которым не нужно нанимать группу людей, чтобы вернуться и проверить факты и убедиться, что содержание является точным и беспристрастным.
Илан Мэнор: Есть очень интересная теория о космосе. Боюсь, я сейчас забыл название теории. Но в нем говорится об одном спутнике, теряющем высоту на своей траектории и влияющем на все остальные спутники. Все спутники сталкиваются со всеми внешними спутниками, и весь мусор сваливается в кучу, а затем взрывается на Земле.
Это немногое из того, что вы сейчас описываете. Вполне возможно, что из-за силы ИИ и из-за использования ИИ как хорошими, так и нечестивыми субъектами мы увидим увеличение количества людей, которые хотят установить СМИ и новые источники, потому что, в конце концов, некоторые люди хотят узнать правду.
Это окольный способ сказать, что наряду с огромным количеством дезинформации в социальных сетях у нас также наблюдается некоторое увеличение числа миллениалов, подписавшихся на авторитетные СМИ в Америке — традиционные источники новостей.
Мы могли бы действительно добраться туда.
Вивиан Уокер: На этой ноте мы зададим еще один раунд вопросов. Я собираюсь изменить вопрос одного из наших слушателей о том, какую политику Государственный департамент может рассматривать в отношении использования искусственного интеллекта в публичной дипломатии. Как я упоминал в начале, обсуждение этой политики продолжается прямо сейчас.
В молниеносном раунде я хотел бы, чтобы каждый из вас, с точки зрения соответствующего специалиста, политики и академических кругов, дал нам свои рекомендации или предложения для Государственного департамента, поскольку он решает вопрос о правилах и методах политики ИИ для практиков публичной дипломатии.
Начнем с Александра.
Александр Хант: Во-первых, Госдепартамент определенно отслеживает этот вопрос, и политика разрабатывается прямо сейчас. Но я бы сказал, что есть две вещи, которые я хотел бы увидеть.
Во-первых, было бы удивительно, если бы существовала институциональная версия некоторых из этих инструментов для использования в наших системах, чтобы, например, политические и экономические чиновники могли использовать их для материалов СБУ [конфиденциальные, но несекретные] и даже в конечном итоге даже в секретное пространство. Если бы мы могли интегрировать эти инструменты в системы, которые у нас уже есть, я думаю, это защитило бы нас от некоторых проблем, о которых мы говорили сегодня.
Еще одна вещь, которую я хотел бы увидеть, — это какое-то обучение в Институте дипломатической службы по ИИ. Я скажу, что это тоже уже в разработке. Мне очень не терпится увидеть, как это выглядит, и я надеюсь, что это затронет некоторые проблемы и вопросы, которые мы обсуждали сегодня.
Вивиан Уокер: Спасибо. Джессика?
Джессика Брандт: Думаю, я бы сказала четыре вещи. Обеспечьте хорошую прозрачность использования сгенерированного контента. Позаботьтесь о том, чтобы не создавать прецедентов, которым мы не хотели бы, чтобы другие следовали. Убедитесь, что мы используем приложения с надежными методами кибербезопасности. Затем, как сказал Алекс, тренировка. Например, убедитесь, что если вы используете эти коммерческие приложения, вы сбрасываете значения по умолчанию, чтобы входные данные, которые вы вводите, не использовались в следующей базовой модели.
Вивиан Уокер: Спасибо. Илан, тебе слово.
Илан Мэнор: Единственное, что я хотел бы сказать, основываясь на том, что мы узнали за последнее десятилетие или около того, это то, что обычно цифровые инновации развиваются очень и очень быстро, и министерствам иностранных дел, включая Государственный департамент, трудно за ними угнаться.
К тому времени, когда у вас будет аналитический бриф об использовании LLM, появится новый вид ИИ, и все будет выброшено в окно. На самом деле я бы рекомендовал сесть с людьми, разрабатывающими ИИ, чтобы понять, как будет выглядеть технологический ландшафт через полтора или два года, а затем строиться в соответствии с этой моделью. Потому что к тому времени, когда вы доберетесь до отчета о политике ChatGPT, ChatGPT выйдет, и будет новая программа, о которой мы еще даже не слышали. Планирование на будущее - моя рекомендация.
* Соцсеть запрещённой в РФ экстремистской организации Meta Platforms Inc.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_i_tcifrovaya_diplomatiya
18.08.2023 «Мировое правительство» нового типа для сдерживания ИИ?
Cтарая сказка на новый лад
Начинаем понимать, зачем в мире раздувается проблема ИИ.
В сентябрьско – октябрьском (2023 года) номере Foreign Affairs опубликована статья, а, по существу, манифест Яна Бреммера (президента Eurasia Group и GZЕRO Media) и Мустафы Сулеймана (генеральный директор Infiection AI) «Парадокс силы искусственного интеллекта».
Там всё сказано прямым текстом:
«разработать новую структуру управления, подходящую для этой уникальной технологии. Если глобальное управление ИИ станет возможным, международная система должна отказаться от традиционных концепций суверенитета и приветствовать технологические компании за столом переговоров. Эти субъекты могут не получать легитимность от общественного договора, демократии или предоставления общественных благ, но без них у эффективного управления ИИ не будет шансов. Это один из примеров того, как международному сообществу необходимо будет переосмыслить основные предположения о геополитическом порядке».
Иными словами, вновь на горизонте замаячило «мировое правительство».
Статья начинается с утопической зарисовки недалекого будущего:
«На дворе 2035 год, а искусственный интеллект повсюду. Системы ИИ управляют больницами, авиалиниями и сражаются друг с другом в зале суда. Производительность достигла беспрецедентного уровня, и бесчисленное множество ранее невообразимых предприятий росли с невероятной скоростью, обеспечивая огромный прогресс в благосостоянии. Новые продукты, лекарства и инновации появляются на рынке ежедневно, по мере того как наука и технологии выходят на передний план. И всё же мир становится все более непредсказуемым и более хрупким, поскольку террористы находят новые способы угрожать обществу с помощью интеллектуального, эволюционирующего кибероружия, а белые воротнички массово теряют работу».
Всего год назад такой сценарий показался бы чисто вымышленным, пишут авторы. Сегодня это кажется почти неизбежным. «Системы генеративного ИИ уже могут писать более четко и убедительно, чем большинство людей, и могут создавать оригинальные изображения, рисунки и даже компьютерный код на основе простых языковых подсказок. И генеративный ИИ — это только верхушка айсберга. Его появление знаменует собой момент Большого взрыва, начало изменяющей мир технологической революции, которая изменит политику, экономику и общество».
По мнению авторов, «подобно прошлым технологическим волнам, ИИ будет сочетать невероятный рост и возможности с огромными разрушениями и рисками. Но в отличие от предыдущих волн, он также инициирует сейсмический сдвиг в структуре и балансе мировой власти, поскольку угрожает статусу национальных государств как основных мировых геополитических сил. Признают они это или нет, но создатели ИИ сами являются геополитическими силами, и их суверенитет над ИИ ещё всё больше укрепляет зарождающийся «технополярный» порядок, в котором технологические компании обладают такой властью в своих владениях, которая когда-то была зарезервирована за национальными государствами.
За последнее десятилетие крупные технологические фирмы фактически стали независимыми, суверенными игроками в созданных ими цифровых сферах. ИИ ускоряет эту тенденцию и расширяет ее далеко за пределы цифрового мира. Сложность технологии и скорость ее развития сделают почти невозможным для правительств принятие соответствующих правил в разумные сроки. Если правительства не наверстают упущенное в ближайшее время, возможно, они никогда этого не сделают».
К счастью, пишут авторы, политики во всём мире начали осознавать проблемы, связанные с искусственным интеллектом, и ломать голову над тем, как им управлять. В мае 2023 года «Большая семерка» запустила «Хиросимский процесс ИИ» — форум, посвященный гармонизации управления ИИ. В июне 2023 года Европейский парламент принял проект Закона ЕС об искусственном интеллекте, что стало первой комплексной попыткой Европейского союза установить меры безопасности в отношении индустрии искусственного интеллекта. А в июле 2023 года Генеральный секретарь ООН Антониу Гутерриш призвал к созданию глобального органа по надзору за регулированием ИИ. Тем временем в Соединенных Штатах политики по обе стороны прохода призывают к регулирующим действиям. Но многие согласны с Тедом Крузом, сенатором-республиканцем от Техаса, который в июне 2023 года пришел к выводу, что Конгресс «не знает, что, черт возьми, он делает».
«К сожалению, слишком много споров об управлении ИИ остается в ловушке опасной ложной дилеммы: использовать искусственный интеллект для расширения национальной власти или подавить его, чтобы избежать рисков. Даже те, кто точно диагностирует проблему, пытаются решить ее, впихивая ИИ в существующие или исторические структуры управления. Тем не менее, искусственным интеллектом нельзя управлять, как любой предыдущей технологией, и он уже меняет традиционные представления о геополитической власти».
Но это не единственный случай.
Такая необычная и неотложная задача, как ИИ, требует оригинального решения, считают Бреммер и Сулейман. «Прежде чем политики смогут приступить к разработке соответствующей регулирующей структуры, им необходимо согласовать основные принципы управления ИИ.
Любая структура управления должна быть предупредительной, гибкой, инклюзивной, непроницаемой и целенаправленной. Основываясь на этих принципах, политики должны создать как минимум три дублирующих друг друга режима управления:
один для установления фактов и информирования правительств о рисках, связанных с ИИ;
другой для предотвращения всеобщей гонки вооружений между ними;
третий для управления разрушительными силами технологии, не похожей ни на что, что видел мир.
Нравится вам это или нет, но наступает 2035 год. Определяется ли это положительными достижениями, обеспечиваемыми ИИ, или вызванными им негативными нарушениями, зависит от того, что сейчас делают политики».
Быстрее Выше Сильнее
ИИ отличается от других технологий и отличается по своему влиянию на мощность. Это не просто создает политические проблемы. Его гиперэволюционная природа также усложняет решение этих задач. Это парадокс силы ИИ.
Темпы прогресса ошеломляют. Возьмите закон Мура, который успешно предсказал удвоение вычислительной мощности каждые два года. Новая волна искусственного интеллекта заставляет эту скорость прогресса казаться причудливой. Когда OpenAI запустила свою первую большую языковую модель, известную как GPT-1, в 2018 году, у нее было 117 миллионов параметров — показатель масштаба и сложности системы. Пять лет спустя модель четвертого поколения компании, GPT-4, как полагают, имеет более триллиона. Объем вычислений, используемых для обучения самых мощных моделей ИИ, увеличивался в десять раз каждый год в течение последних десяти лет. Иными словами, сегодня самые передовые модели ИИ, также известные как «пограничные» модели, которые используют, в пять миллиардов раз превышают вычислительную мощность передовых моделей десятилетней давности. Обработка, которая раньше занимала недели, теперь происходит за секунды.
В ближайшие пару лет появятся модели, способные обрабатывать десятки триллионов параметров.
Модели «масштаба мозга» с более чем 100 триллионами параметров — примерно столько же синапсов в человеческом мозге — будут жизнеспособны в течение пяти лет.
С каждым новым порядком появляются неожиданные возможности. Мало кто предсказывал, что обучение необработанному тексту позволит большим языковым моделям создавать связные, новые и даже творческие предложения. Ещё меньше людей ожидали, что языковые модели смогут сочинять музыку или решать научные задачи, как некоторые теперь могут.
Вскоре разработчикам ИИ, вероятно, удастся создать системы с самосовершенствующимися возможностями — критический момент в развитии этой технологии, который должен заставить всех задуматься.
Модели ИИ также делают больше с меньшими затратами. Вчерашние передовые возможности сегодня работают на более компактных, дешевых и доступных системах. Всего через три года после того, как OpenAI выпустила GPT-3, команды разработчиков открытого исходного кода создали модели, способные обеспечить тот же уровень производительности, но менее чем в шестьдесят раз меньше своего размера, то есть в 60 раз дешевле в эксплуатации, полностью бесплатные и доступны всем в Интернете. Будущие большие языковые модели, вероятно, будут следовать этой траектории эффективности, становясь доступными в форме с открытым исходным кодом всего через два или три года после того, как ведущие лаборатории искусственного интеллекта потратят на их разработку сотни миллионов долларов.
Как и в случае с любым программным обеспечением или кодом, алгоритмы ИИ гораздо проще и дешевле копировать и делиться (или украсть), чем физические активы. Риски распространения очевидны. Мощная модель большого языка Llama-1 от Meta, например, просочилась в Интернет через несколько дней после дебюта в марте 2023 года.
Хотя для работы самых мощных моделей по-прежнему требуется сложное аппаратное обеспечение, версии среднего класса могут работать на компьютерах, которые можно арендовать за несколько долларов в час. Вскоре такие модели будут работать на смартфонах. Ни одна из технологий столь мощной не становилась настолько доступной, широко распространенной и так быстро.
ИИ также отличается от старых технологий тем, что почти все они могут быть охарактеризованы как «двойного назначения» — имеющие как военное, так и гражданское применение. Многие системы по своей сути универсальны, и действительно, универсальность является основной целью многих компаний, занимающихся ИИ. Они хотят, чтобы их приложения помогали как можно большему количеству людей самыми разными способами.
Те же системы, которые управляют автомобилями, могут управлять и танками.
Приложение ИИ, созданное для диагностики заболеваний, может создать новое — и превратить его в оружие.
Границы между безопасным гражданским и разрушительным в военном отношении изначально размыты, что отчасти объясняет, почему Соединенные Штаты ограничили экспорт самых передовых полупроводников в Китай.
Всё это проявляется в глобальном масштабе: однажды выпущенные модели ИИ могут и будут повсюду.
Достаточно одной пагубной или «прорывной» модели, чтобы посеять хаос. По этой причине регулирование ИИ не может осуществляться лоскутным методом. В некоторых странах мало смысла в регулировании ИИ, если в других он остается нерегулируемым. Поскольку ИИ может так легко распространяться, в его управлении не должно быть пробелов.
Более того, ущерб, который может нанести ИИ, не имеет очевидного предела, даже несмотря на то, что стимулы для его создания (и выгоды от этого) продолжают расти.
ИИ можно использовать:
для создания и распространения токсичной дезинформации, подрывающей общественное доверие и демократию;
следить за гражданами, манипулировать ими и подчинять их себе, подрывая индивидуальную и коллективную свободу;
для создания мощного цифрового или физического оружия, угрожающего жизни людей.
ИИ также может:
уничтожить миллионы рабочих мест, усугубив существующее неравенство и создав новые;
закреплять дискриминационные модели и искажать процесс принятия решений, усиливая цикл обратной связи с плохой информацией;
спровоцировать непреднамеренную и неконтролируемую военную эскалацию, которая приведет к войне.
Также не ясны временные рамки для самых больших рисков. Дезинформация в Интернете представляет собой очевидную краткосрочную угрозу, так же как автономные боевые действия кажутся правдоподобными в среднесрочной перспективе. Дальше на горизонте скрываются обещания общего искусственного интеллекта (ОИИ), всё ещё неопределенная точка, в которой ИИ превосходит человека в выполнении любой поставленной задачи, и опасность (по общему признанию спекулятивной) того, что ОИИ может стать самоуправляемым, самовоспроизводящимся и самосовершенствующимся вне контроля человека. Все эти опасности необходимо учитывать в архитектуре управления с самого начала.
ИИ — не первая технология с некоторыми из этих мощных характеристик, но она первая, которая объединила их все. Системы искусственного интеллекта не похожи на автомобили или самолеты, которые построены на аппаратном обеспечении, поддающемся постепенным улучшениям, и чьи наиболее дорогостоящие сбои происходят в виде отдельных аварий. Они не похожи на химическое или ядерное оружие, которые трудно и дорого разрабатывать и хранить, не говоря уже о тайном распространении или развертывании. По мере того, как их огромные преимущества становятся очевидными, системы ИИ будут становиться всё больше, лучше, дешевле и всё более распространенными. Они даже станут способными к квазиавтономии — достижению конкретных целей при минимальном контроле со стороны человека — и, потенциально, к самосовершенствованию. Любая из этих особенностей могла бы бросить вызов традиционным моделям управления. Все они вместе делают эти модели безнадежно неадекватными.
Слишком сильный, чтобы приостановиться
Авторы делают вывод: «изменяя структуру и баланс глобальной власти, ИИ усложняет сам политический контекст, в котором он управляется». ИИ — это не просто разработка программного обеспечения, как обычно. Это совершенно новое средство проецирования силы. В некоторых случаях это подорвет существующие авторитеты. В других - укрепит их. Более того, развитие ИИ движимо непреодолимыми стимулами: каждая нация, корпорация и отдельный человек захотят какую-то её версию.
Внутри стран ИИ даст возможность тем, кто им владеет, следить за населением, обманывать и даже контролировать его, повышая сбор и коммерческое использование личных данных в демократических странах и оттачивая инструменты репрессий, которые авторитарные правительства используют для подчинения своих обществ. Во всех странах искусственный интеллект будет в центре острой геополитической конкуренции. Будь то репрессивные способности, экономический потенциал или военное превосходство, ИИ будет стратегической целью каждого правительства, имеющего ресурсы для конкуренции. Наименее творческие стратегии будут вкачивать деньги в доморощенных чемпионов по искусственному интеллекту или пытаться создавать и контролировать суперкомпьютеры и алгоритмы.
Более тонкие стратегии будут способствовать конкретным конкурентным преимуществам:
как Франция стремится сделать, напрямую поддерживая стартапы ИИ;
Соединенное Королевство, извлекая выгоду из своих университетов мирового класса и экосистемы венчурного капитала;
ЕС, формируя глобальный диалог о регулировании и нормах.
У подавляющего большинства стран нет ни денег, ни технологических ноу-хау, чтобы конкурировать за лидерство в сфере ИИ. Вместо этого их доступ к пограничному ИИ будет определяться их отношениями с горсткой уже богатых и могущественных корпораций и государств. Эта зависимость грозит усугубить нынешний дисбаланс геополитических сил.
Самые могущественные правительства будут соперничать за контроль над самым ценным ресурсом в мире, в то время как страны глобального Юга снова останутся позади. Это не означает, что только самые богатые выиграют от революции ИИ. Подобно Интернету и смартфонам, ИИ будет распространяться независимо от границ, как и рост производительности, который он даёт. И, подобно энергетике и зеленым технологиям, ИИ принесет пользу многим странам, которые его не контролируют.
Однако, полагают авторы, на другом конце геополитического спектра конкуренция за превосходство ИИ будет жесткой. В конце холодной войны могущественные страны могли сотрудничать, чтобы рассеять опасения друг друга и остановить потенциально дестабилизирующую технологическую гонку вооружений. Но сегодняшняя напряженная геополитическая обстановка значительно затрудняет такое сотрудничество.
ИИ — это не просто ещё один инструмент или оружие, которое может принести престиж, власть или богатство. Он может обеспечить значительное военное и экономическое преимущество над противниками.
Правильно это или нет, но два наиболее важных игрока — Китай и США — рассматривают развитие ИИ как игру с нулевой суммой, которая даст победителю решающее стратегическое преимущество в ближайшие десятилетия.
С точки зрения Вашингтона и Пекина, риск того, что другая сторона получит преимущество в области ИИ, больше, чем любой теоретический риск, который эта технология может представлять для общества или их собственного политического авторитета. По этой причине правительства США и Китая вкладывают огромные ресурсы в развитие возможностей искусственного интеллекта, одновременно лишая друг друга ресурсов, необходимых для прорывов следующего поколения. Эта динамика с нулевой суммой — и отсутствие доверия с обеих сторон — означает, что Пекин и Вашингтон сосредоточены на ускорении развития ИИ, а не на его замедлении.
Но эта точка зрения предполагает, что государства могут установить и поддерживать хотя бы некоторый контроль над ИИ. Это может иметь место в Китае, который интегрировал свои технологические компании в структуру государства. Тем не менее, на Западе и в других странах искусственный интеллект скорее подорвет государственную власть, чем укрепит её. За пределами Китая горстка крупных специализированных ИИ-компаний в настоящее время контролирует каждый аспект этой новой технологической волны: что могут делать модели ИИ, кто может получить к ним доступ, как их можно использовать и где их можно развернуть. И поскольку эти компании ревниво оберегают свои вычислительные мощности и алгоритмы, только они понимают, что они создают и на что эти творения способны. Эти несколько фирм могут сохранить свое преимущество в обозримом будущем — или их может затмить множество более мелких игроков, поскольку низкие барьеры для входа, разработка с открытым исходным кодом и почти нулевые предельные затраты приводят к неконтролируемому распространению ИИ. В любом случае революция ИИ будет происходить вне правительства.
В некоторой степени некоторые из этих проблем напоминают проблемы более ранних цифровых технологий. Интернет-платформы, социальные сети и даже такие устройства, как смартфоны, в какой-то степени работают в песочницах, контролируемых их создателями. Когда правительства проявили политическую волю, они смогли внедрить режимы регулирования для этих технологий, такие как Общий регламент ЕС по защите данных, Закон о цифровых рынках и Закон о цифровых услугах. Но на то, чтобы такое регулирование материализовалось в ЕС, ушло десятилетие или больше, и оно до сих пор не полностью реализовано в Соединённых Штатах.
«ИИ движется слишком быстро, чтобы политики могли реагировать в своем обычном темпе», полагают авторы статьи. Более того, социальные сети и другие старые цифровые технологии не помогают создавать себя, а коммерческие и стратегические интересы, движущие ими, никогда не совпадали одинаковым образом.
Всё это означает, что по крайней мере в течение следующих нескольких лет траектория ИИ будет в значительной степени определяться решениями горстки частных компаний, независимо от того, что делают политики в Брюсселе или Вашингтоне.
Другими словами, «технологи, а не политики или бюрократы, будут осуществлять власть над силой, которая может коренным образом изменить как власть национальных государств, так и то, как они относятся друг к другу». Это делает задачу управления искусственным интеллектом непохожей ни на что, с чем правительства сталкивались раньше, а регуляторный баланс более деликатный — и с более высокими ставками — чем пытались сделать какие-либо политики.
Движущаяся мишень, эволюционное оружие
Авторы считают, что правительства уже отстают. Большинство предложений по управлению ИИ рассматривают его как обычную проблему, поддающуюся государственно-ориентированным решениям ХХ века: компромиссы по правилам, выработанные политическими лидерами, сидящими за одним столом. Но это не сработает для ИИ.
Регуляторные усилия на сегодняшний день находятся в зачаточном состоянии и всё ещё недостаточны. Закон ЕС об ИИ является самой амбициозной попыткой регулировать ИИ в любой юрисдикции, но он будет применяться в полной мере только начиная с 2026 года, когда модели ИИ будут усовершенствованы до неузнаваемости.
Великобритания предложила ещё более свободный, добровольный подход к регулированию ИИ, но ему не хватает зубов, чтобы быть эффективным.
Ни одна из инициатив не пытается управлять разработкой и внедрением ИИ на глобальном уровне, что необходимо для успеха управления ИИ. И «хотя существуют добровольные обязательства соблюдать правила безопасности ИИ, они не заменяют юридически обязательные национальные и международные нормы».
Сторонники соглашений на международном уровне об укрощении ИИ, как правило, стремятся к модели контроля над ядерными вооружениями. Но системы ИИ не только бесконечно легче разработать, украсть и скопировать, чем ядерное оружие. Они контролируются частными компаниями, а не правительствами. По мнению авторов, «поскольку новое поколение моделей ИИ распространяется быстрее, чем когда-либо, ядерное сравнение выглядит всё более устаревшим». Даже если правительства смогут успешно контролировать доступ к материалам, необходимым для создания самых передовых моделей — как это пытается сделать администрация Байдена, не позволяя Китаю приобретать передовые чипы — они мало что могут сделать, чтобы остановить распространение этих моделей после того, как они обучены и поэтому для работы требуется гораздо меньше микросхем.
Чтобы глобальное управление ИИ работало, оно должно быть адаптировано к специфике технологии, задачам, которые она ставит, а также к структуре и балансу сил, в которых она работает. Но поскольку эволюция, использование, риски и выгоды ИИ непредсказуемы, управление ИИ не может быть полностью определено с самого начала или в любой момент времени, если уж на то пошло. Оно должно быть таким же инновационным и эволюционным, как и технология, которой оно стремится управлять, обладая некоторыми характеристиками, которые в первую очередь делают ИИ такой мощной силой. Это означает начинать с нуля, переосмысливать и перестраивать новую нормативно-правовую базу с нуля.
«Всеобъемлющая цель любой глобальной архитектуры регулирования ИИ должна заключаться в выявлении и снижении рисков для глобальной стабильности, не блокируя инновации ИИ и вытекающие из них возможности». Можно назвать этот подход «технопруденциализмом», мандатом, скорее похожим на макропруденциальную роль, которую играют глобальные финансовые институты, такие как Совет по финансовой стабильности, Банк международных расчетов и Международный валютный фонд. Их цель — выявить и смягчить риски для глобальной финансовой стабильности, не ставя под угрозу экономический рост.
Технопруденциальный мандат будет работать аналогичным образом, требуя создания институциональных механизмов для решения различных аспектов ИИ, которые могут угрожать геополитической стабильности. Эти механизмы, в свою очередь, будут основываться на общих принципах, адаптированных к уникальным характеристикам ИИ и отражающих новый технологический баланс сил, который поставил технологические компании на место водителя. Эти принципы помогут политикам разработать более детальную нормативно-правовую базу для управления ИИ по мере того, как он развивается и становится всё более всепроникающей силой.
Первый и, возможно, самый важный принцип управления ИИ — осторожность. Как следует из этого термина, технопруденциализм по своей сути руководствуется кредо предосторожности: в первую очередь, - не навреди. Максимальное ограничение ИИ означало бы отказ от его изменяющих жизнь преимуществ, но максимальное освобождение от него означало бы риск всех его потенциально катастрофических недостатков. Другими словами, соотношение риск-вознаграждение для ИИ асимметрично.
Учитывая крайнюю неопределенность в отношении масштабов и необратимости некоторых потенциальных опасностей ИИ, управление ИИ должно быть направлено на предотвращение этих рисков до того, как они материализуются, а не на смягчение их постфактум. Это особенно важно, потому что ИИ может ослабить демократию в некоторых странах и затруднить им принятие правил. Более того, бремя доказательства того, что система ИИ безопасна при превышении некоторого разумного порога, должно лежать на разработчике и владельце. Решать проблемы по мере их возникновения не должны исключительно правительства.
Управление ИИ также должно быть гибким, чтобы оно могло адаптироваться и корректировать курс по мере того, как ИИ развивается и совершенствуется. Государственные институты часто затвердевают до такой степени, что не могут адаптироваться к изменениям. А в случае с ИИ скорость технологического прогресса быстро превзойдет способность существующих структур управления догонять и не отставать. Это не означает, что управление ИИ должно принять идеал Силиконовой долины «действуй быстро и ломай вещи», но оно должно более точно отражать характер технологии, которую он стремится сдерживать.
Управление ИИ должно быть не только предупредительным и гибким, но и инклюзивным, привлекая к участию всех участников, необходимых для регулирования ИИ на практике. Это означает, считают авторы, что «управление ИИ не может быть сосредоточено исключительно на государстве, поскольку правительства не понимают и не контролируют ИИ».
«Частным технологическим компаниям может не хватать суверенитета в традиционном смысле, но они обладают реальной — даже суверенной властью и полномочиями в цифровых пространствах, которые они создали и эффективно управляют». Этим негосударственным субъектам не должны быть предоставлены те же права и привилегии, что и государствам, которые, согласно международному признанию, действуют от имени своих граждан. Но они должны быть участниками международных саммитов и подписантами любых соглашений по ИИ.
Такое расширение управления, по мнению авторов, необходимо, потому что «любая регулирующая структура, исключающая реальных агентов власти ИИ, обречена на провал». На предыдущих волнах технологического регулирования компаниям часто предоставлялась такая большая свобода действий, что они переступали границы, заставляя политиков и регулирующих органов жестко реагировать на их эксцессы. Но эта динамика не принесла пользы ни технологическим компаниям, ни общественности. Приглашение разработчиков ИИ к участию в процессе разработки правил с самого начала поможет создать более совместную культуру управления ИИ, уменьшив необходимость обуздать эти компании постфактум с помощью дорогостоящего и состязательного регулирования.
«ИИ — это проблема всеобщего достояния, а не только прерогатива двух сверхдержав».
Технологические компании не всегда должны иметь право голоса. Некоторые аспекты управления ИИ лучше оставить правительствам, и само собой разумеется, что государства всегда должны сохранять окончательное право вето на политические решения. Правительства также должны защищаться от регулятивного захвата, чтобы технологические компании не использовали свое влияние в политических системах для продвижения своих интересов за счет общественного блага. Но инклюзивная модель управления с участием многих заинтересованных сторон гарантирует, по мнению авторов, что «субъекты, которые будут определять судьбу ИИ, будут вовлечены в процессы нормотворчества и связаны ими». «В дополнение к правительствам (особенно, но не ограничиваясь Китаем и Соединенными Штатами) и технологическими компаниями (особенно, но не ограничиваясь крупными технологическими игроками), ученым, специалистам по этике, профсоюзам, организациям гражданского общества и другим лицам, обладающим знаниями о власти, должно быть место за столом».
Партнерство по ИИ — некоммерческая группа, объединяющая ряд крупных технологических компаний, исследовательских институтов, благотворительных организаций и организаций гражданского общества для продвижения ответственного использования ИИ — является хорошим примером необходимого смешанного инклюзивного форума.
Одновременно авторы статьи считают, что «управление ИИ также должно быть максимально непроницаемым. В отличие от смягчения последствий изменения климата, где успех будет определяться суммой всех индивидуальных усилий, безопасность ИИ определяется наименьшим общим знаменателем: один алгоритм прорыва может нанести неисчислимый ущерб.
Поскольку глобальное управление ИИ так же важно, как управление страны, компании или технологии с наихудшим управлением, «оно должно быть водонепроницаемым везде — с достаточно простым входом, чтобы принудить к участию, и выходом, достаточно дорогостоящим, чтобы предотвратить несоблюдение». Единственная лазейка, слабое звено или мошенник-перебежчик откроют дверь для широкомасштабной утечки, недобросовестных игроков или регуляторной гонки на выживание.
«Помимо охвата всего земного шара, управление ИИ должно охватывать всю цепочку поставок — от производства до оборудования, от программного обеспечения до услуг и от поставщиков до пользователей». Это означает технопруденциальное регулирование и надзор на каждом узле цепочки создания ценности ИИ, от производства чипов ИИ до сбора данных, обучения моделей до конечного использования, а также по всему стеку технологий, используемых в данном приложении. Такая непроницаемость гарантирует отсутствие серых зон регулирования, которые можно было бы использовать.
Наконец, управление ИИ должно быть целенаправленным, а не единым для всех. Поскольку ИИ является технологией общего назначения, он создает многомерные угрозы. Одного инструмента управления недостаточно для устранения различных источников риска ИИ. На практике для определения того, какие инструменты подходят для устранения каких рисков, потребуется разработать живую и дышащую таксономию всех возможных эффектов, которые может иметь ИИ, и того, как лучше всего управлять каждым из них. Например, ИИ будет эволюционным в некоторых приложениях, усугубляя текущие проблемы, такие как нарушение конфиденциальности, и революционным в других, создавая совершенно новый вред. Иногда лучшим местом для вмешательства будет место сбора данных. В других случаях это будет точка продажи передовых чипов, чтобы гарантировать, что они не попадут в чужие руки. Для борьбы с дезинформацией потребуются другие инструменты, чем для борьбы с рисками, связанными с ОИИ и другими неопределенными технологиями с потенциально экзистенциальными последствиями. В некоторых случаях сработает легкое регулирование и добровольное руководство. В других правительствам необходимо будет строго следить за соблюдением требований.
Всё это требует глубокого понимания и современных знаний о рассматриваемых технологиях. Регуляторным и другим органам потребуется контроль и доступ к ключевым моделям ИИ. По сути, по мнению авторов, им потребуется система аудита, которая может не только отслеживать возможности на расстоянии, но и иметь прямой доступ к основным технологиям, что, в свою очередь, потребует соответствующих талантов. Только такие меры могут обеспечить упреждающую оценку новых приложений ИИ как на предмет очевидных рисков, так и на предмет потенциально разрушительных последствий второго и третьего порядка. Целенаправленное управление, другими словами, должно быть хорошо информированным управлением.
Технопруденциальный императив
В итоге авторы считают, что на основе этих принципов должны быть построены как минимум три режима управления ИИ, каждый из которых имеет разные мандаты, рычаги и участников. Все они должны быть новаторскими по своему замыслу, но каждый может черпать вдохновение в существующих механизмах для решения других глобальных проблем, а именно изменения климата, распространения вооружений и финансовой стабильности.
Первый режим сосредоточится на установлении фактов и примет форму глобального научного органа, чтобы объективно консультировать правительства и международные организации по таким основным вопросам, как то, что такое ИИ и какие политические вызовы он ставит. Если никто не сможет договориться об определении ИИ или возможном масштабе его вреда, эффективное формирование политики будет невозможно. Здесь изменение климата является поучительным.
Чтобы создать основу для обмена знаниями для переговоров по климату, Организация Объединенных Наций учредила Межправительственную группу экспертов по изменению климата (МГЭИК) и дала ей простой мандат: предоставлять политикам «регулярные оценки научной основы изменения климата, его последствий и будущих рисков, а также вариантов адаптации и смягчения последствий». ИИ нужен аналогичный орган для регулярной оценки состояния ИИ, беспристрастной оценки его рисков и потенциального воздействия, прогнозирования сценариев и рассмотрения решений технической политики для защиты глобальных общественных интересов. Подобно МГЭИК, этот орган будет иметь глобальное разрешение и научную (и геополитическую) независимость. И его отчеты могут быть использованы для многосторонних и многосторонних переговоров по ИИ, точно так же, как отчеты МГЭИК используются для переговоров ООН по климату.
Миру также нужен способ справиться с напряженностью между основными ИИ-державами и предотвратить распространение опасных передовых систем ИИ. Наиболее важными международными отношениями в области искусственного интеллекта являются отношения между США и Китаем. Сотрудничество между двумя соперниками трудно осуществить даже при самых благоприятных обстоятельствах. Но в контексте обострения геополитической конкуренции неконтролируемая гонка ИИ может разрушить все надежды на достижение международного консенсуса в отношении управления ИИ. Одной из областей, в которой Вашингтон и Пекин могут счесть выгодной совместную работу, является замедление распространения мощных систем, которые могут поставить под угрозу авторитет национальных государств. В крайнем случае, угроза неконтролируемых самовоспроизводящихся ОИИ — если они будут изобретены в ближайшие годы — послужит сильным стимулом для координации действий по обеспечению безопасности и сдерживания.
На всех этих фронтах Вашингтон и Пекин должны стремиться к созданию областей общности и даже барьеров, предлагаемых и контролируемых третьей стороной. Здесь подходы к мониторингу и проверке, часто встречающиеся в режимах контроля над вооружениями, могут быть применены к наиболее важным исходным данным ИИ, в частности к тем, которые связаны с вычислительным оборудованием, включая передовые полупроводники и центры обработки данных. Регулирование ключевых узких мест помогло сдержать опасную гонку вооружений во время холодной войны, а теперь может помочь сдержать потенциально ещё более опасную гонку ИИ.
Но поскольку большая часть ИИ уже децентрализована, это проблема всеобщего достояния, а не прерогатива двух сверхдержав. Децентрализованный характер разработки ИИ и основные характеристики технологии, такие как распространение открытого исходного кода, увеличивают вероятность того, что она будет использована в качестве оружия киберпреступниками, спонсируемыми государством субъектами и волками-одиночками.
Вот почему миру нужен третий режим управления ИИ, способный реагировать на опасные сбои. В качестве моделей директивные органы могут обратиться к подходу, который финансовые органы использовали для поддержания глобальной финансовой стабильности. Совет по финансовой стабильности, в состав которого входят руководители центральных банков, министерств финансов, надзорных и регулирующих органов со всего мира, работает над предотвращением глобальной финансовой нестабильности путем оценки системных уязвимостей и координации необходимых действий по их устранению между национальными и международными органами. Аналогичный технократический орган по рискам ИИ — авторы называют его Советом по стабильности геотехнологий — мог бы поддерживать геополитическую стабильность в условиях быстрых изменений, вызванных ИИ. При поддержке национальных регулирующих органов и международных органов по установлению стандартов он объединит опыт и ресурсы для предотвращения кризисов, связанных с ИИ, или реагирования на них, снижая риск заражения. Но он также будет напрямую взаимодействовать с частным сектором, признавая, что ключевые транснациональные технологические игроки играют решающую роль в поддержании геополитической стабильности, так же как системно значимые банки играют в поддержании финансовой стабильности.
Такой орган с полномочиями, основанными на государственной поддержке, будет иметь хорошие возможности для предотвращения участия глобальных технологических игроков в регулятивном арбитраже или сокрытия за корпоративными адресами.
Признание того, что некоторые технологические компании имеют системное значение, не означает подавления стартапов или новых новаторов. Напротив, создание единой прямой линии от глобального органа управления к этим технологическим гигантам повысит эффективность соблюдения нормативных требований и управления кризисными ситуациями, которые приносят пользу всей экосистеме.
Режим, предназначенный для поддержания геотехнологической стабильности, по мнению авторов, также заполнит опасный пробел в нынешнем нормативно-правовом ландшафте: ответственность за управление ИИ с открытым исходным кодом. «Некоторый уровень онлайн-цензуры будет необходим. Если кто-то загружает чрезвычайно опасную модель, этот орган должен иметь четкие полномочия и возможность удалить ее или дать указание национальным властям сделать это».
Китай и Соединённые Штаты должны захотеть работать вместе, чтобы внедрить ограничения безопасности в программное обеспечение с открытым исходным кодом, например, путем ограничения степени, в которой модели могут инструктировать пользователей о том, как разрабатывать химическое или биологическое оружие или создавать пандемические патогены. Кроме того, у Пекина и Вашингтона может быть возможность сотрудничать в глобальных усилиях по борьбе с распространением.
Каждый из этих режимов должен был бы действовать универсально, пользуясь поддержкой всех основных игроков ИИ. Режимы должны быть достаточно специализированными, чтобы справляться с реальными системами ИИ, и достаточно динамичными, чтобы постоянно обновлять свои знания об ИИ по мере его развития. Работая вместе, эти институты могли бы сделать решающий шаг на пути к технопруденциальному управлению зарождающимся миром ИИ. Но они ни в коем случае не единственные институты, которые будут необходимы. Другие механизмы регулирования, такие как стандарты прозрачности «знай своего клиента», требования лицензирования, протоколы испытаний на безопасность, а также процессы регистрации и утверждения продуктов, должны будут применяться к ИИ в ближайшие несколько лет.
Продвигаем лучшее, предотвращаем худшее
Ни одно из этих решений не будет простым в реализации. «Несмотря на всю шумиху и болтовню мировых лидеров о необходимости регулирования ИИ, политической воли для этого по-прежнему не хватает». Прямо сейчас немногие могущественные группы выступают за сдерживание ИИ, и все стимулы указывают на дальнейшее бездействие.
«Но хорошо спроектированный режим управления ИИ, описанный здесь, может подойти всем заинтересованным сторонам, закрепляя принципы и структуры, которые продвигают лучшее в ИИ, предотвращая при этом худшее. Альтернатива — неконтролируемый ИИ — не только создаст неприемлемый риск для глобальной стабильности. Это также было бы плохо для бизнеса и противоречило бы национальным интересам каждой страны».
«Сильный режим управления ИИ, - заключают статью авторы, - снизит социальные риски, связанные с ИИ, и ослабит напряженность между Китаем и США, уменьшив степень, в которой ИИ является ареной и инструментом геополитической конкуренции. И такой режим мог бы достичь чего-то ещё более глубокого и долгосрочного: он установил бы модель того, как обращаться с другими прорывными, появляющимися технологиями. ИИ может быть уникальным катализатором перемен, но это ни в коем случае не последняя прорывная технология, с которой столкнется человечество. Квантовые вычисления, биотехнологии, нанотехнологии и робототехника также могут коренным образом изменить мир. Успешное управление ИИ поможет миру успешно управлять и этими технологиями».
***
Комментарий Е.Л., В.О.:
Американцы явно проигрывают Китаю в технологической гонке XXI века. Это диагностировано многими экспертами международных организаций.
Санкционные меры по сдерживанию Китая привели к обратным результатам.
Развитие конфликта вокруг Тайваня и в целом в Индо–Тихоокеанском регионе тоже прогнозируется не в пользу США.
Из нафталина вынимают концепцию «мирового правительства» и пытаются её адаптировать к проблеме глобального управления ИИ.
Но, где гарантия у авторов этой комбинации, что и её Китай не перевернёт в свою пользу?
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/mirovoe_pravitel_stvo_novogo_tipa_dlya_sderzhivaniya_ii
17.08.2023 ИИ в Китае под контролем
Cдержат ли ограничения развитие технологии?
Пекин с 15 августа 2023 года внедрил новые радикальные правила для услуг искусственного интеллекта, пытаясь сбалансировать государственный контроль над технологией с достаточной поддержкой, чтобы ее компании могли стать жизнеспособными глобальными конкурентами.
Правительство Китая выпустило 24 директивы, которые требуют от поставщиков платформ регистрировать свои услуги и проводить проверку безопасности, прежде чем они будут представлены на рынке. Ответственность за надзор возьмут на себя семь агентств, в том числе Управление киберпространства Китая и Национальная комиссия по развитию и реформам.
Окончательные правила менее обременительны, чем первоначальный проект от апреля 2023 года, но они показывают, что Китай, как и Европа, продвигается вперед с контролем правительства над тем, что может быть самой многообещающей и, одновременно, противоречивой технологией за последние 30 лет. В США, напротив, законодательство серьезно не рассматривается даже после того, как лидеры отрасли предупредили, что ИИ представляет «риск исчезновения», а Сэм Альтман из OpenAI призвал Конгресс принять участие в публичных слушаниях.
«Китай начал очень быстро», — сказал Time Мэтт Шиэн, научный сотрудник Фонда Карнеги за международный мир, который пишет серию исследовательских работ по этому вопросу. «Они начали создавать инструменты регулирования и регулирующие мускулы, поэтому они будут более готовы регулировать более сложные приложения технологии».
Правила Китая выходят за рамки всего, что предполагалось в западных демократиях. Но они также включают практические шаги, пользующиеся поддержкой в таких странах, как США.
Пекин, например, введёт обязательную маркировку искусственно созданного контента, включая фотографии и видео, заметными ярлыками. Это направлено на предотвращение обмана, такого как онлайн-видео Нэнси Пелоси, которое было подделано, чтобы она выглядела пьяной. Китай также потребует от любой компании, внедряющей модель ИИ, использовать «законные данные» для обучения своих моделей и раскрывать эти данные регулирующим органам по мере необходимости. Такой мандат может успокоить медиакомпании, опасающиеся, что их творения будут кооптированы механизмами ИИ. Кроме того, китайские компании должны предоставить чёткий механизм рассмотрения публичных жалоб на услуги или контент.
По сравнению с предварительным проектом, опубликованным в апреле 2023 года, опубликованная версия, которую называют «временными мерами», похоже, смягчила несколько ранее объявленных положений, что говорит о том, что Пекин видит возможности в зарождающейся отрасли, поскольку страна стремится возобновить экономический рост в порядок создания рабочих мест.
Теперь правила будут применяться только к услугам, которые доступны для широкой публики в Китае. Технологии, разрабатываемые в научно-исследовательских учреждениях или предназначенные для использования зарубежными пользователями, освобождаются от налога.
В последней версии также удалены формулировки, указывающие на карательные меры, включая штрафы до 100 тысяч юаней (14 027 долларов США) за нарушения.
Государство «поощряет инновационное использование генеративного ИИ во всех отраслях и областях» и поддерживает разработку «безопасных и надежных» чипов, программного обеспечения, инструментов, вычислительной мощности и источников данных, согласно документу, объявляющему правила.
Китай также призывает платформы «участвовать в разработке международных правил и стандартов», связанных с генеративным искусственным интеллектом.
Тем не менее, среди ключевых положений — требование к поставщикам услуг генеративного ИИ проводить проверки безопасности и регистрировать свои алгоритмы в правительстве, если их услуги способны влиять на общественное мнение или могут «мобилизовать» общественность.
Популярность сервиса резко возросла в последние месяцы, и китайские технологические компании спешат выпускать свои собственные версии, что побудило некоторых критиков предсказать, что эта тенденция подольет масла в существующее соперничество между США и Китаем в области новых технологий.
Сенатор США Марк Уорнер предупредил в июле 2023 года, что в глобальной гонке по созданию ограждений для того, как правительства используют ИИ, Китай получил значительное преимущество. Китай «намного опережает игру», сказал он Politico на Глобальном техническом саммите.
Китайские компании, похоже, ждут выхода обновленных правил, прежде чем официально представить свои услуги в стиле ChatGPT для широкой публики.
Пока что сервисы генеративного искусственного интеллекта Baidu, Alibaba и JD.com либо находятся на стадии пробной версии, либо тестируются корпоративными пользователями. Согласно правилам, регуляторы все равно должны одобрить свою продукцию.
Ключевой вопрос о стратегии регулирования Китая заключается в том, могут ли правила в конечном итоге подавить инновации в индустрии искусственного интеллекта, которая лежит в основе стремления страны конкурировать с Соединенными Штатами в сфере высоких технологий.
«То, как Китай подходит к регулированию ИИ, вероятно, будет соответствовать его подходу к регулированию других областей известных технологий, таких как Интернет или социальные сети, где он применяет строгую цензуру для контроля потока информации», — заявили аналитики Citi в исследовательской записке в августе 2023 года.
Регуляторы, кажется, знают об опасениях. В только что выпущенных рекомендациях подчеркивается необходимость найти баланс между «разработкой и безопасностью».
За соблюдением правил будут следить семь национальных агентств, в том числе служба по наблюдению за киберпространством, Национальная комиссия по развитию и реформам и министерство образования.
В то время как исторически невмешательный подход США к регулированию дал гигантам Силиконовой долины возможность стать глобальными безжалостными силами, эта стратегия сопряжена с серьезными опасностями с генеративным ИИ, сказал Энди Чун, эксперт по искусственному интеллекту и адъюнкт-профессор Городского университета Гонконга.
«ИИ может коренным образом изменить то, как люди работают, живут и развлекаются, способами, которые мы только начинаем осознавать», — сказал он. «Это также создает явные риски и угрозы для человечества, если разработка ИИ будет продолжаться без надлежащего надзора».
В США федеральные законодатели предложили широкий спектр правил ИИ, но усилия пока находятся на ранних стадиях. Летом 2023 года Сенат США провел несколько брифингов по искусственному интеллекту, чтобы помочь своим членам ознакомиться с технологией и ее рисками, прежде чем принимать меры.
В июне 2023 года Европейский парламент принял проект Закона об ИИ, который налагает новые ограничения и требования к прозрачности для систем искусственного интеллекта. Парламент, государства-члены ЕС и Европейская комиссия должны согласовать окончательные условия, прежде чем закон станет законом.
Пекин потратил годы на то, чтобы заложить основу для правил, которые вступили в силу 15 августа 2023 года. В 2017 году Государственный совет, кабинет министров страны КНР, опубликовал дорожную карту ИИ, в которой разработка технологии была объявлена приоритетом, а также изложен график введения государственных постановлений.
По мере того как проект руководящих принципов Китая по генеративному ИИ превратился в последнюю версию, между регулирующими органами, игроками отрасли и учеными велись месяцы консультаций, чтобы сбалансировать законодательство и инновации. Эта инициатива со стороны Пекина частично обусловлена стратегической важностью искусственного интеллекта и желанием получить регуляторное преимущество перед другими правительствами, сказал Ю Чуанман, директор Центра регулирования и глобального управления Института международных отношений Китайского университета в Шэньчжэне, Гонконг.
Теперь крупнейшие игроки в области искусственного интеллекта в Китае, от Baidu Inc. до Alibaba Group Holding и SenseTime Group Inc., приступают к работе. Пекин нацелился на ИИ как на один из дюжины технологических приоритетов, и после двухлетнего регулятивного репрессивного режима правительство ищет помощи у частного сектора, чтобы поддержать экономику и конкурировать с США. После введения ChatGPT началось глобальное безумие вокруг ИИ - ведущие технические руководители и начинающие предприниматели вкладывают в эту сферу миллиарды долларов.
В 2023 году Alibaba, Baidu и SenseTime продемонстрировали свои модели искусственного интеллекта. Сюй Ли, главный исполнительный директор SenseTime, провел самую яркую презентацию с чат-ботом, который пишет компьютерный код из подсказок на английском или китайском языках.
Тем не менее, китайские компании уступают мировым лидерам, таким как OpenAI и Google Alphabet. Скорее всего, им будет трудно бросить вызов таким конкурентам, особенно если американские компании не регулируются никем, кроме них самих.
«Китай пытается балансировать между несколькими разными целями, которые не обязательно совместимы», — сказала Хелен Тонер, директор Джорджтаунского центра безопасности и новых технологий. «Одна цель — поддержать их экосистему ИИ, а другая — сохранить социальный контроль и возможность подвергать цензуре и контролю информационную среду в Китае».
В США OpenAI продемонстрировал небольшой контроль над информацией, даже если она опасна или неточна. Его ChatGPT создавал поддельные юридические прецеденты и предоставлял общественности инструкции по созданию бомбы.
В Китае компаниям приходится быть гораздо осторожнее. В феврале 2023 года компания Yuanyu Intelligence из Ханчжоу отключила свой сервис ChatYuan всего через несколько дней после запуска. Согласно опубликованным в сети скриншотам, бот высказал сомнения в экономических перспективах Китая.
Теперь стартап полностью отказался от модели ChatGPT, чтобы сосредоточиться на сервисе повышения производительности ИИ под названием KnowX. «Машины не могут обеспечить 100-процентную фильтрацию», — сказал Сюй Лян, глава компании. «Но что вы можете сделать, так это добавить к модели человеческие ценности патриотизма, надежности и благоразумия».
Пекин с его авторитарной властью играет по другим правилам, чем Вашингтон. Когда китайские агентства делают выговоры и штрафуют технологические компании, корпорации не могут сопротивляться и часто публично благодарят правительство за его оплошность. В США Big Tech нанимает армии юристов и лоббистов, чтобы оспаривать практически любые действия регулирующих органов. По словам Айнн Кокас, адъюнкт-профессора медиа-исследований в Университете Вирджинии, наряду с активными общественными дебатами между заинтересованными сторонами это затруднит введение эффективных правил ИИ.
В Китае искусственный интеллект начинает проникать в обширный режим цензуры, который очищает интернет страны от запретных и спорных тем. Это не значит, что это легко с технической точки зрения. «Одним из самых привлекательных нововведений ChatGPT и подобных нововведений в области искусственного интеллекта является его непредсказуемость или собственные инновации, выходящие за рамки нашего человеческого вмешательства», — сказал Ю из Китайского университета Гонконга. «Во многих случаях поставщики услуг платформы не могут это контролировать».
Некоторые китайские технологические компании используют двустороннюю фильтрацию ключевых слов, используя одну большую языковую модель, чтобы гарантировать, что другой LLM будет очищен от любого спорного контента. Один руководитель технологического стартапа сказал, что правительство даже будет проводить выборочные проверки того, как сервисы ИИ маркируют данные.
«Потенциально наиболее увлекательной и тревожной является та временная шкала, в которой цензура осуществляется с помощью новых больших языковых моделей, разработанных специально для цензоров», — сказал Натан Фрейтас, научный сотрудник Центра изучения Интернета и общества имени Беркмана Кляйна при Гарвардском университете.
Европейский Союз может быть самым прогрессивным в защите людей от таких злоупотреблений. Закон, принятый в июне 2023 года, обеспечивает контроль конфиденциальности и ограничивает использование программного обеспечения для распознавания лиц. Предложение ЕС также потребует от компаний проведения определенного анализа рисков, которые влекут за собой их услуги, например, для систем здравоохранения или национальной безопасности.
Но подход ЕС вызвал возражения. Альтман из OpenAI предположил, что его компания может «прекратить работу» в странах, которые применяют чрезмерно обременительные правила.
Одна вещь, которой Вашингтон может научиться у китайских регуляторов, — это быть «целенаправленным и итеративным», сказал Шихан. «Создайте эти инструменты, которые они смогут улучшать, продолжая регулировать».
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/ii_v_kitae_pod_kontrolem
13.08.2023 Генеративный искусственный интеллект озаботил Пентагон
Как сохранить за ним контроль и эффективно использовать
Министерство обороны США создало целевую группу для оценки и руководства применением генеративного искусственного интеллекта в целях национальной безопасности на фоне резкого роста общественного интереса к этой технологии.
Task Force Lima находится в ведении Главного управления цифровых технологий и искусственного интеллекта, или CDAO, которому чуть больше года.
Использование генеративного ИИ в вооруженных силах вызывает горячие споры. В то время как умный помощник или чат-бот на основе ИИ могут эффективно находить файлы, отвечать на часто задаваемые вопросы или раскапывать контактную информацию, такие инструменты также могут подпитывать кампании по дезинформации, попытки спуфинга и кибератаки. Агентство оборонных информационных систем в 2023 финансовом году добавило генеративный ИИ в свой «Список наблюдения за технологиями». Другие пункты в списке включают беспроводную связь 5G, квантово-устойчивую криптографию и кибербезопасность с нулевым доверием.
«Эти возможности открывают новые возможности, а также создают новые значительные риски», — говорится в меморандуме Пентагона от 10 августа 2023 года. «Министерству обороны необходимо изучить использование этой технологии и потенциал масштаба, скорости и интерактивных возможностей этих моделей для повышения эффективности задач Министерства, одновременно определяя надлежащие меры защиты и снижая различные связанные риски».
Новую работу возглавит Крейг Мартелл, директор по цифровым технологиям Министерства обороны. Мартелл сказал, что многое все еще висит в воздухе, но главная цель будет состоять в том, чтобы найти «набор вариантов использования внутри подразделения, где, как мы полагаем, генеративный ИИ может помочь нам выполнять нашу работу и где опасности, трудности генеративный ИИ можно смягчить. Например… если мне нужно создать первый черновик какого-то документа, это нормально, потому что я возьму на себя полную ответственность за редактирование этого документа, убедитесь, что он действительно правильный, прежде чем передать его дальше."
Тем не менее, есть ряд случаев использования, когда риск ошибки будет слишком высок, чтобы использовать большую языковую модель, такую как «что-либо кинетическое» или иметь дело со смертельным оружием, сказал он.
Мартелл пришел в министерство обороны из Lyft, и публично предупрежден опасностей, которые могут представлять большие языковые модели. Но, по его словам, такие модели «тоже не ящик Пандоры». По его словам, министерство обороны должно понимать, где их можно безопасно использовать, а где противники могут их развернуть. «Будет набор вариантов использования, которые станут новыми векторами атак не только для Министерства обороны США, но и для корпораций. И нам придется… усердно придумывать, как их решить.
Оперативная группа также поможет Пентагону лучше понять, что ему нужно купить для достижения новых целей в области искусственного интеллекта. Это может означать больше облачных сервисов, данных или синтетических данных, моделей или ничего из этого. По словам Мартелла, эта инициатива слишком молода, чтобы точно знать, что она будет значить для промышленности.
«Если мы решим, что будем строить свою собственную базовую модель, мы собираемся наращивать вычислительные мощности, в этом нет никаких сомнений. Чтобы построить собственную базовую модель, вам потребуется много вычислительной мощности. Если мы собираемся покупать его у кого-то другого или если мы собираемся взять продукт с открытым исходным кодом и доработать его», — сказал он.
Мартелл сказал, что более широкий вопрос заключается в том, есть ли у министерства обороны достаточно вариантов использования, в которых генеративный ИИ может быть полезен, учитывая лучшее понимание рисков. В то время как у подразделения есть много тщательно отобранных внутренних данных, терабайты диагностики реактивных двигателей или годы видеозаписи наблюдения беспилотников над Ближним Востоком не составляют большой языковой модели. Поскольку им приходится извлекать из больших корпусов текстов, их способу работы присуща определенная степень ненадежности. Вопрос, на который еще предстоит ответить академическим кругам, заключается в том, можно ли точно измерить эту неотъемлемую ненадежность, чтобы выявить риски использования».
«Это открытый вопрос, достаточно ли у нас данных, покрывающих достаточно широкий охват, чтобы ценность модели могла поддерживаться без этих предварительно обученных данных. С другой стороны… моя гипотеза такова: чем больше предварительно обученных данных, тем больше вероятность галлюцинаций. Так что это компромисс, который нам действительно нужно изучить. Я не знаю, я на самом деле не думаю, что научное сообщество знает ответ на этот вопрос», — сказал он.
Мартелл подчеркнул важность сохранения человеческого контроля и заверил, что машины никогда не будут принимать решения самостоятельно.
Пентагон постепенно внедряет технологию искусственного интеллекта для улучшения различных аспектов своей деятельности. Эта интеграция включает использование алгоритмов ИИ для анализа данных, распознавания образов и поддержки принятия решений. Однако Мартелл подчеркнул, что люди всегда будут нести ответственность за принятие окончательных решений.
Хотя ИИ может упростить процессы и повысить эффективность, Мартелл подчеркнул важность человеческого суждения для принятия сложных решений. Он подчеркнул, что роль ИИ заключается в том, чтобы помогать людям, предоставляя им ценную информацию, основанную на анализе данных. В конечном счете, люди несут ответственность за принятие обоснованных решений.
Мартелл также упомянул, что министерство обороны США внимательно относится к этическим соображениям при внедрении ИИ. Существуют руководящие принципы и правила, гарантирующие, что технология ИИ работает в заранее определенных границах и соответствует правовым и этическим нормам. Такой подход помогает поддерживать прозрачность и подотчетность в процессах принятия решений.
Кроме того, Мартелл признал, что ИИ не безошибочен и может иметь ограничения. Люди должны знать об этих ограничениях и проявлять осторожность, полагаясь на информацию, созданную ИИ. Сочетание сильных сторон людей и машин может привести к оптимальным результатам в критических ситуациях.
Министерство обороны США признает ценность ИИ для улучшения операций, но признает необходимость человеческого контроля. Мартелл подчеркнул, что машины никогда не будут способны принимать автономные решения, независимые от человеческого суждения. Интеграция ИИ направлена на расширение человеческих возможностей, а не на замену принятия решений человеком.
По состоянию на начало 2021 года в Пентагоне находилось в стадии реализации не менее 685 проектов искусственного интеллекта, в том числе несколько связанных с основными системами вооружений, что является последним публичным подсчетом. Пентагон запросил 1,8 миллиарда долларов на искусственный интеллект в своем бюджетном запросе на 2024 финансовый год.
Пентагон запускает конкурс ИИ, чтобы получить помощь в защите компьютерных систем
DARPA, агентство Пентагона, которое финансирует технологические инновации, проводит двухлетний конкурс для экспертов в области искусственного интеллекта, чтобы создать новые способы укрепления кибербезопасности в мире.
Конкурс стартовал 9 августа 2023 года на конференции по кибербезопасности Black Hat в Лас-Вегасе. Участникам предлагается создать инструменты, которые может использовать каждый, чтобы помочь выявить и исправить дыры в программном обеспечении, чтобы хакеры не могли их использовать. Победителям в различных категориях будет разыграно в общей сложности 18,5 миллионов долларов, и официальное завершение состоится на хакерской конференции Def Con в Лас-Вегасе в августе 2025 года.
В последние годы организации США подвергались атакам хакеров. Только во время администрации Байдена хакеры неоднократно взламывали федеральные агентства , которые часто находят творческие способы взлома обычных программ, а затем используют этот доступ для слежки за деятельностью правительства по всему миру.
По словам представителя DARPA, победившие инструменты будут опубликованы для общественности, чтобы потенциально улучшить кибербезопасность во всем мире.
Исследование, финансируемое Пентагоном, использует искусственный интеллект для обнаружения «нарушения социальных норм»
Новое исследование, финансируемое Пентагоном (июль 2023 года), предполагает, что искусственный интеллект может сканировать и анализировать блоки текста, чтобы определить, сделали ли люди, которые его написали, что-то не так или нет.
В этих целях используются прогностические модели GPT-3, которые могут анализировать сообщения на предмет того, что они называют «нарушениями социальных норм», а также метод анализа данных, известный как «нулевая классификация текста», для выявления в текстовых сообщениях широких категорий «нарушения норм».
Исследователи из Унивеситета Бен – Гурион (Израиль), работающие с DARPA пришли к выводу, что «конструктивная стратегия выявления нарушения социальных норм заключается в сосредоточении внимания на ограниченном наборе социальных эмоций, сигнализирующих о нарушении», а именно на чувстве вины и стыда. Другими словами, ученые хотели использовать ИИ, чтобы понять, когда мобильный пользователь может плохо себя чувствовать из-за того, что он сделал. Для этого они сгенерировали свои собственные «синтетические данные» с помощью GPT-3, а затем использовали классификацию текста с нулевым выстрелом для обучения прогностических моделей, которые могли бы «автоматически идентифицировать социальные эмоции» в этих данных. Надежда, по их словам, состоит в том, что эту модель анализа можно будет использовать для автоматического сканирования текстовых историй на наличие признаков плохого поведения.
Исследователи Бен-Гуриона говорят, что их проект был поддержан программой вычислительного культурного понимания DARPA — инициативой с нечетким мандатом на разработку «технологий межкультурного понимания языка для улучшения ситуационной осведомленности оператора Министерства обороны США и эффективности взаимодействия». Похоже, что «Пентагон хочет создать программное обеспечение, которое может анализировать для них иностранное население, чтобы, когда США начнут войну с указанным населением, можно было понять, как они к этому относятся».
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/generativnij_iskusstvennij_intellekt_ozabotil_pentagon
04.08.2023 Генеративный ИИ: выгоды и риски
Пути дальнейшего развития
Генеративный ИИ становится одним из определяющих факторов экономической, социальной, внешней и военной политики. В мире нарастает вал исследований и публикаций по этому вопросу. Рассмотрим некоторые из них, где сформулированы пути развития этой технологии.
Состояние ИИ в 2023 году: год прорыва генеративного ИИ
Последнее ежегодное глобальное исследование McKinsey о текущем состоянии ИИ (опубликовано 1 августа 2023 года) подтверждает взрывной рост инструментов генеративного ИИ. Менее чем через год после появления многих из этих инструментов треть респондентов опроса заявили, что их организации регулярно используют этот вид ИИ по крайней мере в одной бизнес-функции.
На фоне недавних достижений ИИ превратился из темы, предназначенной для технических сотрудников, в центр внимания руководителей компаний: почти четверть опрошенных руководителей высшего звена заявили, что лично используют инструменты ИИ для работы, и более четверти респондентов из компаний, использующих ИИ, говорят, что генеративный ИИ уже включен в повестку дня их советов директоров. Более того, 40 процентов респондентов заявили, что их организации увеличат инвестиции в искусственный интеллект в целом из-за достижений в области генеративного ИИ. Результаты показывают, что управлять рисками, связанными с генеративным ИИ, все еще рано: менее половины респондентов заявили, что их организации снижают даже тот риск, который они считают наиболее значимым: неточность.
Организации, которые уже внедрили возможности ИИ, первыми изучили потенциал ИИ нового поколения, а те, кто видит наибольшую ценность в более традиционных возможностях ИИ — группу, которая называна высокопроизводительными ИИ, — уже опережают других в освоении инструментов ИИ нового поколения.
Ожидаемые сбои в бизнесе из-за генеративного ИИ значительны, и респонденты прогнозируют существенные изменения в своей рабочей силе. Они ожидают сокращения рабочей силы в определенных областях и масштабных усилий по переподготовке кадров для удовлетворения меняющихся потребностей в талантах. Тем не менее, хотя использование генеративного ИИ может стимулировать внедрение других инструментов искусственного интеллекта, виден незначительный рост внедрения организациями этих технологий. Процент организаций, внедряющих какие-либо инструменты искусственного интеллекта, остается стабильным с 2022 года, и внедрение по-прежнему сосредоточено в рамках небольшого числа бизнес-функций.
1. Использование генеративного ИИ уже широко распространено
Результаты опроса, проведенного на местах в середине апреля 2023 года, показывают, что, несмотря на растущую доступность генеративного ИИ для общественности, экспериментирование с инструментами уже относительно распространено, и респонденты ожидают, что новые возможности преобразуют их отрасли. Искусственный интеллект нового поколения вызвал интерес у представителей бизнеса: люди из разных регионов, отраслей и уровней, выслуги лет используют искусственный интеллект нового поколения для работы и вне ее. 79 процентов всех респондентов заявили, что они хотя бы частично сталкивались с генеративным ИИ на работе или вне ее, а 22 процента заявили, что регулярно используют его в своей собственной работе. Несмотря на то, что показатели использования довольно схожи по уровню выслуги лет, они самые высокие среди респондентов, работающих в технологическом секторе и в Северной Америке.
Организации тоже сейчас широко используют генеративный ИИ. Треть всех респондентов заявили, что их организации уже регулярно используют генеративный ИИ по крайней мере в одной функции — это означает, что 60 процентов организаций, сообщивших о внедрении искусственного интеллекта, используют генеративный ИИ. Более того, 40 процентов тех, кто сообщил о внедрении ИИ в своих организациях, говорят, что их компании ожидают увеличения инвестиций в ИИ в целом благодаря генеративному ИИ, а 28 процентов говорят, что использование генеративного ИИ уже включено в повестку дня их правления.
Наиболее часто сообщаемые бизнес-функции, использующие эти новые инструменты, совпадают с теми, в которых использование искусственного интеллекта наиболее распространено в целом: маркетинг и продажи, разработка продуктов и услуг, а также сервисные операции, такие как обслуживание клиентов и поддержка бэк-офиса. Это говорит о том, что организации используют эти новые инструменты там, где они наиболее ценны. В предыдущем исследовании эти три области, наряду с разработкой программного обеспечения, показали потенциал для получения около 75 процентов общей годовой прибыли от вариантов использования генеративного ИИ.
Три четверти всех респондентов ожидают, что генеративный ИИ вызовет значительные или разрушительные изменения в характере конкуренции в их отрасли в ближайшие три года. Респонденты опроса, работающие в сфере технологий и финансовых услуг, с наибольшей вероятностью ожидают от поколения ИИ кардинальных изменений. Предыдущее исследование показывает, что, хотя во всех отраслях действительно могут произойти некоторые сбои, уровень воздействия, вероятно, будет разным. Отрасли, в наибольшей степени полагающиеся на интеллектуальный труд, вероятно, столкнутся с еще большими сбоями — и потенциально получат больше прибыли.
Технологические компании, что неудивительно, ожидают наибольшего эффекта от ИИ нового поколения — добавленной стоимости, эквивалентной 9 процентам доходов мировой отрасли, — отрасли, основанные на знаниях, такие как банковское дело (до 5 процентов), фармацевтика и медицинские изделия (также до 5 процентов) и образование (до 4 процентов), также могут испытать значительные последствия. В отличие от этого, производственные отрасли, такие как аэрокосмическая промышленность, автомобилестроение и передовая электроника, могут испытывать менее разрушительные последствия. Это контрастирует с воздействием предыдущих технологических волн, которые больше всего повлияли на производство, и обусловлено сильными сторонами генеративного ИИ в деятельности, основанной на языке, в отличие от тех, которые требуют физического труда.
Ответы показывают, что многие организации еще не учитывают потенциальные риски, связанные с генеративным ИИ.
Согласно опросу, немногие компании кажутся полностью готовыми к широкому использованию генеративного ИИ — или к бизнес-рискам, которые могут принести эти инструменты. Только 21 процент респондентов, сообщивших о внедрении искусственного интеллекта, говорят, что их организации разработали политику регулирующую использование сотрудниками технологий генеративного ИИ в своей работе. Когда их конкретно спросили о рисках внедрения генеративного ИИ, немногие респонденты сказали, что их компании снижают наиболее часто упоминаемый риск с помощью генеративного ИИ: неточность. Респонденты ссылаются на неточности чаще, чем на кибербезопасность и соответствие нормативным требованиям, которые были наиболее распространенными рисками, связанными с ИИ в целом в предыдущих опросах. Только 32 процента говорят, что они устраняют неточности, что меньше, чем 38 процентов, которые говорят, что они уменьшают риски кибербезопасности. Интересно, что этот показатель значительно ниже, чем процент респондентов, сообщивших о снижении кибербезопасности, связанной с ИИ, в 2022 году (51 процент). В целом, как и в предыдущие годы, большинство респондентов говорят, что их организации не решают проблемы, связанные с ИИ.
2. Ведущие компании уже опережают генеративный ИИ
Результаты опроса показывают, что организации с высокими показателями эффективности ИИ, делают все возможное для искусственного интеллекта, как с использованием ИИ нового поколения, так и с более традиционными возможностями ИИ. Эти организации, которые получают значительную отдачу от искусственного интеллекта, уже используют генеративный ИИ в большем количестве бизнес-функций, чем другие организации, особенно в разработке продуктов и услуг, а также в управлении рисками и цепочками поставок. При рассмотрении всех возможностей ИИ, включая более традиционные возможности машинного обучения, автоматизацию роботизированных процессов и чат-ботов, высокопроизводительные ИИ также с гораздо большей вероятностью, чем другие, будут использовать ИИ при разработке продуктов и услуг, для таких целей, как оптимизация цикла разработки продукта, добавление новых функций к существующим продуктам и создание новых продуктов на основе ИИ. Эти организации также чаще, чем другие организации, используют искусственный интеллект для моделирования рисков и для использования в HR, таких как управление производительностью, организационный дизайн и оптимизация распределения рабочей силы.
Высокие показатели ИИ гораздо чаще, чем другие, используют ИИ при разработке продуктов и услуг.
Еще одно отличие от аналогов: усилия высокопроизводительных разработчиков в области искусственного интеллекта в меньшей степени направлены на снижение затрат, что является главным приоритетом в других организациях.
В предыдущие годы высокопроизводительные организации инвестировали в ИИ гораздо больше, чем другие: респонденты из компаний с высоким уровнем эффективности в области ИИ более чем в пять раз чаще других заявляют, что тратят на ИИ более 20 процентов своих цифровых бюджетов. Они также более широко используют возможности искусственного интеллекта во всей организации. Респонденты с высокими показателями гораздо чаще, чем другие, говорят, что их организации внедрили искусственный интеллект в четырех или более бизнес-функциях и что они внедрили большее количество возможностей искусственного интеллекта.
Полученные результаты говорят о том, что даже высококвалифицированные специалисты не освоили лучшие практики внедрения ИИ, такие как подходы к операциям машинного обучения (MLOps), хотя они с гораздо большей вероятностью, чем другие, сделают это.
3. Таланты, связанные с ИИ, нуждаются в смене, и ожидается, что влияние ИИ на рабочую силу будет значительным.
Результаты о опроса показывают изменения в ролях, которые выполняют организации для поддержки своих амбиций в области ИИ. В 2022 году организации, использующие ИИ, чаще всего нанимали инженеров по обработке данных, инженеров по машинному обучению и всех специалистов по обработке данных — на все должности, о которых респонденты обычно сообщали в предыдущем опросе. Но гораздо меньшая доля респондентов сообщает о найме инженеров-программистов, связанных с ИИ, — самой часто нанимаемой должности в 2022 году, — чем в предыдущем опросе (28 процентов в последнем опросе, по сравнению с 39 процентами). Недавно появились роли в области оперативного проектирования, поскольку потребность в этом наборе навыков возрастает по мере внедрения ИИ нового поколения: 7 процентов респондентов, чьи организации внедрили ИИ, сообщили об этих сотрудниках, принятых на работу в прошлом году.
Результаты показывают, что наем на должности, связанные с ИИ, остается сложной задачей, но за последний год стало несколько проще, что может отражать волну увольнений в технологических компаниях с конца 2022 по первую половину 2023 года. Меньшая доля респондентов, чем в предыдущем опросе, сообщают о трудностях с наймом на такие должности, как специалисты по обработке данных ИИ, инженеры по обработке данных и специалисты по визуализации данных, хотя ответы свидетельствуют о том, что наем инженеров по машинному обучению и владельцев продуктов ИИ остается такой же сложной задачей, как и в предыдущем году.
Заглядывая в ближайшие три года, респонденты прогнозируют, что внедрение ИИ изменит многие роли в рабочей силе. В целом, они ожидают, что больше сотрудников будут переподготовлены, чем уволены. Почти четверо из десяти респондентов, сообщивших о внедрении ИИ, ожидают, что более 20 процентов рабочей силы их компаний будут переподготовлены, в то время как 8 процентов респондентов говорят, что численность их рабочей силы сократится более чем на 20 процентов.
Если говорить конкретно о прогнозируемом влиянии генеративного ИИ, то сервисные операции - единственная функция, в которой большинство респондентов ожидают увидеть сокращение численности персонала в своих организациях. Этот вывод в целом согласуется с тем, что предполагает недавнее исследование: хотя появление генеративного ИИ увеличило оценку процента действий сотрудников, которые можно автоматизировать (от 60 до 70 процентов по сравнению с 50 процентами), это не обязательно приводит к автоматизации всей роли.
Ожидается, что высокие исполнители ИИ проведут гораздо более высокий уровень переподготовки, чем другие компании. Респонденты в этих организациях более чем в три раза чаще других заявляют, что в результате внедрения ИИ их организации в течение следующих трех лет сократят более 30 процентов своей рабочей силы.
4. При всем внимании к ИИ нового поколения внедрение И влияние ИИ остаются стабильными.
Хотя использование инструментов генеративного ИИ быстро распространяется, данные опроса не показывают, что эти новые инструменты способствуют общему внедрению ИИ в организациях. Доля организаций, внедривших ИИ в целом, остается стабильной, по крайней мере на данный момент: 55 процентов респондентов сообщили, что их организации внедрили ИИ. Менее трети респондентов продолжают утверждать, что их организации внедрили ИИ более чем в одной бизнес-функции, предполагая, что масштабы использования ИИ остаются ограниченными. Разработка продуктов и услуг и сервисные операции по-прежнему остаются двумя бизнес-функциями, в которых респонденты чаще всего сообщают о внедрении ИИ, как и в предыдущих четырех опросах. И в целом, только 23 процента респондентов говорят, что по крайней мере 5 процентов EBIT их организаций в 2022 году были связаны с использованием ИИ — практически без изменений по сравнению с предыдущим опросом, — предполагая, что существует гораздо больше возможностей для извлечения выгоды.
Организации продолжают видеть отдачу в тех сферах бизнеса, в которых они используют ИИ, и планируют увеличить инвестиции в предстоящие годы. Видно, что большинство респондентов сообщают об увеличении доходов, связанных с ИИ, в каждой бизнес-функции, использующей ИИ. Заглядывая в будущее, более двух третей ожидают, что их организации увеличат инвестиции в ИИ в течение следующих трёх лет.
Об исследовании
Онлайн-опрос проводился с 11 по 21 апреля 2023 года и собрал ответы от 1684 участников, представляющих весь спектр регионов, отраслей, размеров компаний, функциональных специальностей и сроков аренды. Из этих респондентов 913 заявили, что их организации внедрили ИИ по крайней мере в одной функции, и им были заданы вопросы об использовании ИИ в их организациях. Для корректировки различий в показателях ответов данные взвешиваются по вкладу каждой страны-респондента в мировой ВВП.
Где лучше всего живется генеративному ИИ
20 июля 2023 года The New York Times сообщила:
“Исследователи Брукингского - Brookings института обнаружили, что Сан-Франциско и Сан-Хосе, Калифорния, доминируют в списках вакансий для генеративной работы с ИИ, что потенциально укрепляет их контроль над технологической отраслью».
Район залива Сан-Франциско управлял индустрией высоких технологий на протяжении десятилетий, начиная с первых дней появления персональных компьютеров и заканчивая бумом социальных сетей.
Новое исследование Института Брукингса (июль 2023 года) предполагает, что рост генеративного искусственного интеллекта, подпитываемый популярностью чат-бота ChatGPT, может еще больше укрепить позиции Bay Area в области технологий.
В отчете, который вашингтонский аналитический центр опубликовал 20 июля 2023 года, говорится, что генеративный ИИ может увеличить географию «победитель получает больше всего» для рабочих мест. А победителями пока являются Сан-Франциско и Сан-Хосе, штат Калифорния.
Хотя в этом нет ничего удивительного, отчет Brookings может помочь развеять представление о том, что небольшие технологические центры, такие как Остин, Техас или Майами, станут домом для следующего поколения крупных технологических компаний. Во всяком случае, это говорит о том, что влияние района залива на технологическую отрасль может стать сильнее.
Исследователи обнаружили, что в более чем 380 городских районах США четверть из примерно 2200 объявлений о вакансиях с использованием генеративного ИИ за последний год были в районе залива.
«Эта захватывающая новая технология может стимулировать кластеризацию, а это проблема с экономической, демографической и общественной точки зрения», — сказал Марк Муро, автор отчета и старший научный сотрудник Brookings, исследовательского подразделения, которое занимается городами и государственной политикой.
Объявления о вакансиях следуют за генеративным безумием инвестиций в ИИ, которое сильно смещено в сторону области залива. В дополнение к отраслевым гигантам, таким как Google и Meta, девять самых ценных стартапов в области генеративного ИИ базируются в Сан-Франциско или Силиконовой долине, включая OpenAI, Scale AI, Anthropic, Inflection AI, Databricks и Cerebras, согласно PitchBook, который отслеживает стартапы.
Объявления о вакансиях для работы с ИИ не так распространены, как сообщения о других наборах технологических навыков, и опыт ИИ в течение многих лет был популярной и высокооплачиваемой специальностью. Технологические центры за пределами США, такие как Торонто и Кембридж в Англии, также привлекли свою долю исследователей ИИ.
Исследователи Brookings проанализировали данные о списках вакансий в США, собранные Lightcast, аналитической фирмой. Публикации считались генеративными заданиями ИИ, если они включали хотя бы один из трех терминов: генеративный ИИ, ChatGPT или большие языковые модели.
Нью-Йорк занял третье место среди объявлений о вакансиях с использованием генеративного ИИ. Здесь находится известный стартап по генеративному ИИ Hugging Face, и многие крупные технологические компании имеют в городе группы исследователей ИИ.
Будучи центром многих других отраслей, помимо технологий, Нью-Йорк может дать представление о том, как технология будет распространяться за пределы ранней работы, проделанной в районе залива.
«Каждая крупная финансовая, медийная, рекламная и консалтинговая компания занимается выяснением того, как они собираются адаптироваться к генеративному ИИ и использовать его», — сказала Джули Сэмюэлс, исполнительный директор Tech:NYC, некоммерческой отраслевой группы. — И это происходит здесь каждый день.
Но растущее число рабочих мест в сфере ИИ в Нью-Йорке, многие из которых высокооплачиваемые, не решает проблемы демократизации технологии по всей стране.
Ряд других исследований, проведенных в 2023 году, оценили вероятное экономическое влияние генеративного искусственного интеллекта, технологического механизма, лежащего в основе чат-ботов, таких как ChatGPT от OpenAI и Bard от Google, которые могут писать бизнес-отчеты, компьютерный код и стихи. Это исследование было сосредоточено на потенциале генеративного ИИ для повышения производительности, преобразования работы и автоматизации миллионов рабочих мест.
Исследования, отслеживающие сотни новых технологий на протяжении десятилетий, показывают, что новаторские центры развития обычно сохраняют огромное количество накопленных ими богатств и навыков. И новый отчет Brookings, по сути, является обновлением исследования 2021 года по географии ИИ, в котором высказывались опасения по поводу кластеризации процветания, подпитываемого ИИ.
Тем не менее, в новом отчете указывается на увеличение поддержки и финансирования «местной промышленной политики», которая направлена на повышение экономического процветания в большем количестве мест.
Например, в соответствии с Законом о Чипах и науке, вступившим в силу в прошлом году, федеральное правительство выделило первоначальные ассигнования в размере 500 млн долларов на создание 20 региональных технологических центров. Инвестиции в технологии искусственного интеллекта и обучение определены в качестве приоритета для этих центров.
«Нам необходимо создать экосистемы технологических инноваций в большем количестве сообществ по всей стране, особенно в тех, которые исторически игнорировались», — заявила министр торговли Джина Раймондо.
Национальный научный фонд создал 25 институтов искусственного интеллекта по всей стране, которые работают с государственными учреждениями и компаниями. 500 миллионов долларов программы распределяются в виде грантов по 20 миллионов долларов каждый на программы ИИ, которые проводят фундаментальные и прикладные исследования в таких областях, как изменение климата, сельское хозяйство и образование.
Гранты направляются университетским институтам, в том числе Университету Оклахомы, Университету штата Огайо, Университету штата Айова, Университету штата Вашингтон, Технологическому институту Джорджии, Университету Буффало и Калифорнийскому университету в Ирвине.
С искусственным интеллектом может появиться возможность для более широкого географического распределения богатства, чем с некоторыми прошлыми технологиями.
«Мы просто говорим об информации, битах, и нам не обязательно находиться в одном месте, чтобы работать с битами», — сказал Майкл Литтман, директор отдела информационных и интеллектуальных систем Национального научного фонда.
По словам доктора Литтмана, с появлением ИИ «нам действительно нужно, чтобы в этом сдвиге участвовало как можно больше людей».
В отчете Брукингса содержится призыв поддерживать и расширять такую политику. «Мы начинаем понимать, что география технологий действительно важна для формирования возможностей в Америке», — сказал Муро, соавтор отчета.
Суперкомпьютер для генеративного ИИ
21 июля 2023 года The New York Times в статье «Суперкомпьютер с искусственным интеллектом оживает благодаря гигантским компьютерным чипам» сообщила:
«Новый суперкомпьютер, созданный стартапом Cerebras из Силиконовой долины, был представлен на фоне бума ИИ, стимулирующего спрос на чипы и вычислительную мощность».
Эндрю Фельдман, исполнительный директор стартапа Cerebras из Силиконовой долины, с новым суперкомпьютером с искусственным интеллектом в центре обработки данных в Санта-Кларе, Калифорния.
Суперкомпьютер, который был представлен 20июля 2023 года Cerebras, стартапом из Силиконовой долины, был построен с использованием специализированных чипов компании, которые предназначены для питания продуктов искусственного интеллекта. Чипы выделяются своим размером — как размер обеденной тарелки или в 56 раз больше, чем чип, обычно используемый для ИИ. Каждый чип Cerebras обладает вычислительной мощностью сотен традиционных чипов.
Cerebras заявила, что построила суперкомпьютер для G42, компании, занимающейся искусственным интеллектом. В G42 заявили, что планируют использовать суперкомпьютер для создания продуктов искусственного интеллекта для Ближнего Востока.
«Здесь мы показываем, что есть возможность построить очень большой специализированный суперкомпьютер с искусственным интеллектом», — сказал Эндрю Фельдман, исполнительный директор Cerebras. Он добавил, что его стартап хотел «показать миру, что эту работу можно выполнить быстрее, с меньшими затратами энергии и с меньшими затратами».
Спрос на вычислительную мощность и чипы ИИ в этом году резко вырос, чему способствовал мировой бум ИИ. Технологические гиганты, такие как Microsoft, Meta и Google, а также множество стартапов, в последние месяцы 2023 года поспешили выпустить продукты с искусственным интеллектом после того, как чат-бот ChatGPT на базе искусственного интеллекта стал вирусным из-за устрашающе похожей на человека прозы, которую он мог генерировать.
Новое поколение чат-ботов, работающих на основе искусственного интеллекта, спровоцировало борьбу за определение того, может ли эта технология перевернуть экономику Интернета, превратив сегодняшние электростанции в бывших и создав новых гигантов отрасли.
Но для создания продуктов ИИ обычно требуются значительные вычислительные мощности и специализированные чипы, что приводит к яростной охоте за новыми технологиями. В мае 2023года Nvidia, ведущий производитель чипов, используемых для систем искусственного интеллекта, заявила, что аппетит к ее продуктам, известным как графические процессоры или графические процессоры, настолько велик, что ее квартальные продажи будут более чем на 50 процентов выше оценок Уолл-стрит. Согласно прогнозу, рыночная стоимость Nvidia взлетела выше 1 триллиона долларов.
«Впервые мы наблюдаем огромный скачок в требованиях к компьютерам» из-за технологий ИИ, — сказал Ронен Дар, основатель стартапа Run:AI в Тель-Авиве, который помогает компаниям разрабатывать модели ИИ. Он добавил, что это «создало огромный спрос» на специализированные чипы, и компании «поспешили обеспечить доступ» к ним
Чип Cerebras в 56 раз больше, чем чип, обычно используемый для искусственного интеллекта.
Чтобы получить достаточно чипов ИИ, некоторые крупнейшие технологические компании, включая Google, Amazon, Advanced Micro Devices и Intel, разработали собственные альтернативы. Стартапы, такие как Cerebras, Graphcore, Groq и SambaNova, также присоединились к гонке, стремясь выйти на рынок, на котором доминирует Nvidia.
Чипы призваны сыграть такую ключевую роль в ИИ, что они могут изменить баланс сил между технологическими компаниями и даже странами. Администрация Байдена, например, недавно взвесила ограничения на продажу чипов ИИ в Китай, а некоторые американские официальные лица заявили, что возможности Китая в области ИИ могут представлять угрозу национальной безопасности Соединенных Штатов за счет усиления пекинского военного аппарата и аппарата безопасности.
Суперкомпьютеры с искусственным интеллектом создавались и раньше, в том числе компанией Nvidia. Но стартапы редко создают их.
Компания Cerebras, базирующаяся в Саннивейле, штат Калифорния, была основана в 2016 году г-ном Фельдманом и четырьмя другими инженерами с целью создания оборудования, ускоряющего разработку ИИ. За прошедшие годы компания привлекла 740 миллионов долларов, в том числе от Сэма Альтмана, который возглавляет лабораторию искусственного интеллекта OpenAI, и от венчурных компаний, таких как Benchmark. Cerebras оценивается в 4,1 миллиарда долларов.
Поскольку чипы, которые обычно используются для питания ИИ, небольшие — часто размером с почтовую марку — для обработки сложной модели ИИ требуются сотни или даже тысячи их. В 2019 году Cerebras рассекретила то, что, по ее утверждению, было самым большим компьютерным чипом из когда-либо созданных, и Фельдман сказал, что его чипы могут обучать системы искусственного интеллекта в 100–1000 раз быстрее, чем существующее оборудование.
Компания G42 из Абу-Даби начала работать с Cerebras в 2021 году. В апреле 2023 года она использовала систему Cerebras для обучения арабской версии ChatGPT.
В мае G42 попросила Cerebras построить сеть суперкомпьютеров в разных частях мира. Талал Аль Кайсси, исполнительный директор G42 Cloud, дочерней компании G42, сказал, что передовая технология позволит его компании создавать чат-ботов и использовать ИИ для анализа геномных данных и данных о профилактическом лечении.
Но спрос на графические процессоры был настолько высок, что их было трудно получить достаточно для создания суперкомпьютера. По словам Аль Кайсси, технология Cerebras была доступной и рентабельной. Фельдман говорит, что Cerebras использовала свои чипы для создания суперкомпьютера для G42 всего за 10 дней.
«Шкала времени была значительно сокращена», — сказал Аль-Каисси.
В 2024 году Cerebras планирует построить еще два суперкомпьютера для G42 — один в Техасе и один в Северной Каролине, а затем еще шесть по всему миру. Эта сеть называется Condor Galaxy.
Тем не менее, стартапам, вероятно, будет сложно конкурировать с Nvidia, сказал Крис Мэннинг, ученый-компьютерщик из Стэнфорда, чьи исследования сосредоточены на ИИ.
Другие стартапы также пытались выйти на рынок чипов ИИ, но многие из них «фактически потерпели неудачу», сказал доктор Мэннинг.
Но Фельдман полон надежд. По его словам, многие компании, занимающиеся ИИ, не хотят ограничиваться только Nvidia, и существует глобальный спрос на другие мощные чипы, такие как процессоры Cerebras.
«Мы надеемся, что это продвинет ИИ вперёд», — сказал он.
Генеративный ИИ и кибербезопасность
В статье Бинила Пиллаи (Руководитель службы безопасности WW SMB , Microsoft), Дорона Бар Шалом (Руководитель программы стратегических инноваций , Microsoft Security Office технического директора), Тала Гольдштейна (Руководитель отдела стратегии , Всемирный экономический форум) на сайте ВЭФ «Генеративный ИИ для малого и среднего бизнеса: хаос или расширение прав и возможностей?» (20.07. 2023) делается вывод:
«Генеративный искусственный интеллект (ИИ) потенциально может повлиять на рост числа кибератак на малый и средний бизнес, которые могут стать легкой мишенью.
ИИ предоставляет киберпреступникам доступ к новым и сложным инструментам атак, включая вредоносное ПО, эксплойты, индивидуальный фишинг и другие методы.
С другой стороны, генеративный ИИ также можно использовать для предоставления передовых и интеллектуальных инструментов безопасности, которые улучшают обнаружение атак и обеспечивают полностью автоматизированные ответы».
Угроза кибербезопасности для малого и среднего бизнеса (SMB) реальна: атаки программ-вымогателей увеличились почти на 300%, причем более 50% нацелены на малый бизнес, говорится в исследовании Microsoft, проведенном в апреле 2022 года.
Экономическая стоимость этих атак высока: более 60% предприятий малого и среднего бизнеса не могут работать после того, как подверглись кибератаке. Отсутствие базовых мер кибербезопасности увеличивает риск кибератак, и киберпреступники тянутся к этим предприятиям как к легкой мишени для атак с низким уровнем риска и высокой прибылью.
Малые и средние предприятия сталкиваются с проблемами при освоении передовых решений безопасности в своем бизнесе из-за нехватки квалифицированного персонала (более 60% малых и средних предприятий не имеют их). Поэтому все больше предприятий малого и среднего бизнеса полагаются на поставщиков управляемых услуг (MSP), которые до недавнего времени в основном занимались предоставлением услуг ИТ-инфраструктуры и кибербезопасности.
Малые и средние предприятия стремятся изучить возможности, которые генеративный ИИ может предоставить для ускорения их роста, помимо того, что может значительно повысить ценность с точки зрения кибербезопасности. Как направление искусственного интеллекта, генеративный ИИ позволяет малым и средним предприятиям использовать передовые технологии для улучшения операций, повышения качества обслуживания клиентов и получения конкурентного преимущества на рынке.
Повышенные киберриски генеративного ИИ
Генеративный ИИ снижает входные барьеры для злоумышленников, не обладающих обширными знаниями в области безопасности и опытом для проведения успешной атаки. Эти новички, скорее всего, нацелятся на малый и средний бизнес, поскольку они кажутся менее защищенными, чем их коллеги из крупных предприятий. Хотя генеративный ИИ предлагает значительные возможности для малого и среднего бизнеса, он также создает следующие новые риски безопасности:
Вредоносное ПО с улучшенным ИИ. Генеративный ИИ может генерировать вредоносный код для автоматического развертывания. В настоящее время злоумышленники делают это даже без ИИ. Однако с помощью ИИ они могут делать это в масштабе, обеспечивающем максимальное воздействие.
Фишинг и социальная инженерия с использованием искусственного интеллекта. Генеративный ИИ может создавать убедительные сообщения для фишинговых писем, атак социальной инженерии и дипфейковых видео, нацеленных на малый и средний бизнес. Используя генеративный ИИ, хакеры могут избежать человеческих ошибок, а не носители языка смогут создать фишинговое электронное письмо с идеальной орфографией и грамматикой. Кроме того, масштабирование таких атак с помощью фишинга как услуги и автоматизированной фишинговой атаки по электронной почте на цель создает проблемы для устойчивости к кибербезопасности малого и среднего бизнеса, поскольку традиционные средства защиты могут с трудом обнаруживать и смягчать такие новые угрозы.
Мошенничество с использованием ИИ. Мошенничество с компрометацией деловой электронной почты (BEC) — это тип кибермошенничества, при котором злоумышленники выдают себя за доверенное лицо или организацию по электронной почте, чтобы обмануть жертв. С помощью генеративного ИИ злоумышленники могут создавать электронные письма, которые точно имитируют стиль, тон и словарный запас выдающего себя за человека или организацию, что делает их все труднее отличить от настоящих.Малые и средние предприятия более уязвимы для кибератак, если они не предприняли действий для защиты своих личных данных, устройств и бизнес-приложений из-за нехватки квалифицированного персонала. Генеративный ИИ может усугубить эти уязвимости, и в результате в ближайшие годы мы можем увидеть значительный рост кибератак на малый и средний бизнес.
Безопасность, усиленная искусственным интеллектом
Но генеративный ИИ также может иметь решающее значение для кибербезопасности малого и среднего бизнеса, предоставляя расширенные возможности для обнаружения, анализа и реагирования на потенциальные угрозы. Оставляя в стороне риски, генеративный ИИ предлагает прекрасную возможность изменить баланс между атакующими и защитниками, особенно для малых и средних предприятий, которым не хватает ресурсов. Воспользовавшись следующими преимуществами, предприятия малого и среднего бизнеса могут использовать возможности генеративного ИИ для повышения устойчивости к кибербезопасности:
Обнаружение аномалии. Генеративный ИИ можно использовать в качестве инструмента для обнаружения закономерностей и поведения обычного сетевого трафика и действий пользователей или системных операций в ИТ-инфраструктуре.
Быстрый мониторинг. Генеративный ИИ может помочь аналитику безопасности, выполняющему работу, анализировать огромные хранилища данных, обнаруживать и реагировать быстрее.
Автоматический ответ. Генеративный ИИ может инициировать компьютеризированные ответы, такие как изоляция затронутых систем и блокировка подозрительных IP-адресов. Он также может помочь пользователю предпринять правильные действия, использовать правильные инструменты и настроить эти типы автоматизации, независимо от того, какую технологию внедрил клиент.
Оценка уязвимостей и управление исправлениями. Моделируя потенциальные сценарии атак, генеративный ИИ может помочь определить приоритеты уязвимостей в зависимости от их влияния на бизнес и рекомендовать эффективные стратегии управления исправлениями.
Более быстрое обучение. Генеративный ИИ может улучшить образование и быстрее понять людей, которые работают в сфере ИТ и безопасности. Генеративный ИИ не делает всю работу за них; это улучшает то, что они могут делать с инструментом.
Многосторонний подход к генеративному ИИ
Следующие заинтересованные стороны коллективно способствуют росту, инновациям и ответственному использованию генеративного ИИ в сфере малого и среднего бизнеса:
Крупные технологические компании. Генеративный ИИ — одна из последних влиятельных тем в последнее время, особенно с появлением таких платформ, как ChatGPT и Microsoft Security Copilot. Большинство продуктов генеративного ИИ потенциально могут обеспечить безопасность с реактивной, а не наступательной способностью. Однако влияние этой области на кибербезопасность, вероятно, будет намного больше, чем то, что мы видим сегодня. Крупные технологические компании, такие как Microsoft, Google и IBM, могут добиться значительных успехов в области генеративного ИИ, разрабатывая инструменты и платформы как для исследований, так и для практических приложений.
Поставщик управляемых услуг (MSP). MSP могут улучшить свою поддержку клиентов, используя продукты искусственного интеллекта, основанные на кибербезопасности. Это особенно важно, поскольку MSP также сталкиваются с нехваткой квалифицированного персонала в области кибербезопасности. Используя дополнения и рекомендации, предоставляемые этими продуктами ИИ, MSP могут настраивать решения для каждого клиента, используя свои бизнес-данные. Такой подход позволяет им предоставлять более эффективную поддержку и индивидуальные решения, отвечающие уникальным потребностям каждого клиента.
Правительства и регулирующие органы. Правительства и регулирующие органы во всем мире играют решающую роль в разработке политик и руководств, встроенных в более широкую структуру кибербезопасности. Они решают проблемы этики, предвзятости и подотчетности в системах ИИ. Их участие помогает установить стандарт для успешного внедрения технологии ИИ.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/generativnij_ii_vigodi_i_riski
23.07.2023 Искусственный интеллект вновь вышел в число наиболее обсуждаемых мировых проблем
От прогноза апокалипсиса до ужесточения регулирования
Июль 2023 года в США, Китае и России стал месяцем активного обсуждения проблем дальнейшего развития искусственного интеллекта.
Каковы шансы апокалипсиса с помощью ИИ?
10 июля 2023 года группа исследователей США, в которую вошли Эзра Каргер, экономист из Федерального резервного банка Чикаго, и Филип Тетлок, политолог из Пенсильванского университета, опубликовали в The Economist рабочий документ, в котором пытались пролить свет на этот вопрос путем систематического изучения мнений двух разного рода специалистов. С одной стороны, это предмет или «область», специалисты по ядерной войне, биологическому оружию, ИИ и вымиранию человечества. С другой находилась группа «суперпрогнозистов» — предсказателей общего назначения, которые делали точные прогнозы на самые разные темы, от результатов выборов до начала войн.
Исследователи наняли 89 суперпрогнозистов, 65 экспертов в предметной области и 15 экспертов по «риску исчезновения» в целом. Собравшимся было предложено рассмотреть два различных вида бедствий. «Катастрофа» определялась как событие, в результате которого погибло всего 10% людей в мире, или около 800 миллионов человек. (Для сравнения, Вторая мировая война, по оценкам, унесла жизни около 3% двухмиллиардного населения мира в то время.) «Вымирание» определялось как событие, которое уничтожило всех, за исключением, возможно, большинство, 5000 удачливых (или невезучих) душ.
Обеим группам было предложено оценить вероятность всего, начиная от неизбежных событий, таких как вымирание, вызванное ИИ, или ядерной войны, и заканчивая более мелкими вопросами, например , могут ли произойти тревожные достижения в возможностях ИИ, которые могли бы послужить указателями на будущую дорогу к грядущей катастрофе.
Самый поразительный вывод исследования заключался в том, что эксперты в предметной области, которые, как правило, доминируют в публичных разговорах об экзистенциальных рисках, кажутся более мрачными в отношении будущего, чем суперпрогнозисты. Эксперты подсчитали, что к 2100 году вероятность катастрофы составляет около 20%, а вероятность исчезновения — 6%. Суперпрогнозисты дали этим событиям вероятности в 9% и 1% каждое.
Этот широкий разрыв скрывал некоторые интересные детали. Разница между двумя группами была наибольшей при рассмотрении рисков, связанных с ИИ.
Средний суперпрогнозист подсчитал, что вероятность катастрофы, вызванной ИИ, составляет 2,1% , а вероятность вымирания, вызванного ИИ, к концу века составляет 0,38%.
Эксперты по искусственному интеллекту , напротив, присвоили этим двум событиям вероятность 12% и 3% соответственно. Когда дело дошло до пандемий, суперпрогнозисты были более пессимистичны, чем эксперты в предметной области, в отношении рисков, связанных с естественным заболеванием.
Возможно, самым интересным результатом было то, что, хотя группы разошлись во мнениях относительно точного размера риска, обе группы назвали ИИ самым большим беспокойством, независимо от того, думали ли они о катастрофе или вымирании (см. Диаграмму).
По словам Дэна Мейланда, суперпрогнозиста, участвовавшего в исследовании, одной из причин сильных результатов ИИ является то, что он действует как «множитель силы» в отношении других рисков, таких как ядерное оружие. Как и в случае с ядерной войной или ударом астероида, ИИ (скажем, в виде вооруженных роботов) может напрямую убивать людей. Но он также «мог служить для заточки топора другого палача», так сказать. Если бы люди использовали ИИ, например, для разработки более мощного биологического оружия, это внесло бы существенный вклад, хотя и косвенно, в любую последующую катастрофу.
Но хотя суперпрогнозисты относились к ИИ пессимистично, они также относились к нему относительно неуверенно. Мир жил с ядерным оружием почти 80 лет. Тот факт, что ядерной войны еще не было, представляет собой ценные данные, которые можно использовать для прогнозирования того, может ли она произойти в будущем.
ИИ в нынешнем значении этого термина, намного новее. Появление современных мощных моделей машинного обучения относится к началу 2010-х годов. И область все еще быстро развивается. Это оставляет гораздо меньше исторических данных, на которых можно основывать прогнозы.
Суперпрогнозисты и эксперты по ИИ придерживались совершенно разных взглядов на то, как общества могут отреагировать на небольшой ущерб, причиненный ИИ. Суперпрогнозисты склонны думать, что такой ущерб вызовет тщательное изучение и регулирование, чтобы предотвратить более серьезные проблемы позже. Эксперты в предметной области, напротив, склонны думать, что коммерческие и геополитические стимулы могут перевесить опасения по поводу безопасности, даже после того, как был нанесен реальный ущерб.
ИИ в США
Байден погрузился в искусственный интеллект
21 июля 2023 года Президент США Байден встретился с семью ведущими компаниями, занимающихся искусственным интеллектом (Amazon, Google и Meta* и др.), которые взяли на себя добровольные обязательства по управлению рисками, связанными с новой технологией.
Эти семь компаний согласились на добровольные обязательства по ответственным инновациям. Эти обязательства, которые компании будут выполнять немедленно, подчеркивают три фундаментальных принципа: безопасность, безопасность и доверие.
Во-первых, компании обязаны убедиться, что их технология безопасна, прежде чем выпустить ее для широкой публики. Это означает тестирование возможностей их систем, оценку их потенциального риска и обнародование результатов этих оценок.
Во-вторых, компании должны уделять первоочередное внимание безопасности своих систем, защищая свои модели от киберугроз и управляя рисками для национальной безопасности США, а также обмениваясь передовым опытом и необходимыми отраслевыми стандартами.
В-третьих, компании обязаны завоевать доверие людей и предоставить пользователям возможность принимать обоснованные решения.
Маркировка контента, который был изменен или создан искусственным интеллектом. Искоренение предрассудков и дискриминации, усиление защиты конфиденциальности и защита детей от вреда.
Добровольные гарантии — это лишь ранний предварительный шаг, поскольку Вашингтон и правительства всего мира спешат создать правовые и нормативные рамки для развития искусственного интеллекта. Соглашения включают в себя тестирование продуктов на наличие угроз безопасности и использование водяных знаков, чтобы потребители могли распознавать материалы, созданные искусственным интеллектом.
Объявление, сделанное 21 июля, отражает стремление администрации Байдена и законодателей срочно отреагировать на быстро развивающиеся технологии, даже несмотря на то, что законодатели изо всех сил пытаются регулировать социальные сети и другие технологии.
«В ближайшие недели я продолжу предпринимать исполнительные действия, чтобы помочь Америке проложить путь к ответственным инновациям», — сказал Байден. «И мы собираемся работать с обеими сторонами над разработкой соответствующего законодательства и правил».
Белый дом не сообщил подробностей о предстоящем указе президента, который будет касаться более серьезной проблемы: как контролировать способность Китая и других конкурентов завладеть новыми программами искусственного интеллекта или компонентами, используемыми для их разработки.
Это включает в себя новые ограничения на продвинутые полупроводники и ограничения на экспорт больших языковых моделей. Их трудно контролировать — большая часть программного обеспечения может поместиться в сжатом виде на флэш-накопителе.
Распоряжение может вызвать большее сопротивление со стороны отрасли, чем добровольные обязательства, озвученные 21 июля. Они, по словам экспертов, уже нашли отражение в практике вовлеченных компаний. Обещания не будут ограничивать планы компаний, занимающихся искусственным интеллектом, и не мешать развитию их технологий. И как добровольные обязательства, они не будут обеспечиваться государственными регулирующими органами.
«Мы рады взять на себя эти добровольные обязательства вместе с другими в этом секторе», — заявил Ник Клегг, президент по глобальным связям в Meta, материнской компании Facebook*. «Они являются важным первым шагом в обеспечении ответственных ограничений для ИИ и создают модель, которой должны следовать другие правительства».
В рамках гарантий компании согласились:
тестировать безопасность своих продуктов ИИ, частично независимыми экспертами;
осуществлять обмен информацией о своих продуктах с правительствами и другими сторонами, которые пытаются управлять рисками, связанными с технологией;
обеспечить, чтобы потребители могли обнаруживать материалы, созданные ИИ, путем внедрения водяных знаков или других средств идентификации сгенерированного контента;
публично сообщать о возможностях и ограничениях своих систем на регулярной основе, включая риски безопасности и доказательства предвзятости;
развернуть передовые инструменты искусственного интеллекта для решения самых больших проблем общества, таких как лечение рака и борьба с изменением климата;
проводить исследования рисков предвзятости, дискриминации и вторжения в частную жизнь из-за распространения инструментов ИИ.
В заявлении, объявляющем о соглашениях, администрация Байдена заявила, что компании должны гарантировать, что «инновации не будут осуществляться за счет прав и безопасности американцев».
«Компании, которые разрабатывают эти новые технологии, несут ответственность за обеспечение безопасности своей продукции», — говорится в заявлении администрации.
Для компаний стандарты, описанные 21 июля, служат двум целям:
попытка предотвратить или сформулировать законодательные и нормативные шаги с помощью самоконтроля;
как сигнал о том, что они обдумывают эту новую технологию вдумчиво и активно.
Но правила, которые они согласовали, в значительной степени являются наименьшим общим знаменателем и могут интерпретироваться каждой компанией по-разному. Например, фирмы привержены строгой кибербезопасности данных и кода, используемых для создания «языковых моделей», на основе которых разрабатываются генеративные программы ИИ. Но нет никакой конкретики в отношении того, что это означает — и компании в любом случае будут заинтересованы в защите своей интеллектуальной собственности.
И даже самые осторожные компании уязвимы. Microsoft, одна из фирм, присутствовавших на мероприятии в Белом доме вместе с Байденом, накануне встречи в Белом доме изо всех сил пыталась противостоять организованному китайским правительством взлому личных электронных писем американских чиновников, имевших дело с Китаем. Теперь выясняется, что Китай каким-то образом получил «закрытый ключ», принадлежащий Microsoft, который является ключом к аутентификации электронной почты — одной из наиболее тщательно охраняемых частей кода компании.
В результате соглашение вряд ли замедлит усилия по принятию законодательства и регулированию новых технологий.
Пол Барретт, заместитель директора Центра бизнеса и прав человека Стерна в Нью-Йоркском университете, сказал, что необходимо сделать больше для защиты от опасностей, которые искусственный интеллект представляет для общества.
«Жизненно важно, чтобы Конгресс вместе с Белым домом оперативно разработал законодательство, требующее прозрачности, защиты конфиденциальности, и активизировал исследования широкого спектра рисков, связанных с генеративным ИИ», — говорится в заявлении Барретта.
Европейские регулирующие органы готовы принять законы об искусственном интеллекте, что побудило многие компании поощрять законодательство США. Несколько законодателей в Конгрессе США представили законопроекты, которые включают лицензирование компаний ИИ для выпуска своих технологий, создание федерального агентства для надзора за отраслью и требования к конфиденциальности данных. Но члены Конгресса далеки от согласия в отношении правил и спешат изучить технологию.
Законодатели пытаются решить, как справиться с распространением технологий искусственного интеллекта, причем некоторые из них сосредоточены на рисках для потребителей, в то время как другие остро обеспокоены отставанием от противников, особенно от Китая, в гонке за доминирование в этой области.
Специальный комитет Палаты представителей по стратегической конкуренции с Китаем в июле 2023 года разослал двухпартийные письма американским венчурным компаниям с требованием рассчитаться за инвестиции, которые они вложили в китайские компании, занимающиеся искусственным интеллектом и полупроводниками. Эти письма приходят после нескольких месяцев, в течение которых различные комиссии Палаты представителей и Сената опрашивали самых влиятельных предпринимателей и критиков индустрии ИИ, чтобы определить, какие законодательные ограничения и стимулы следует изучить Конгрессу.
Многие из этих свидетелей, в том числе Сэм Альтман из стартапа OpenAI в Сан-Франциско, умоляли законодателей регулировать индустрию ИИ, указывая на то, что новая технология может нанести неправомерный вред. Но это регулирование медленно внедряется в Конгрессе, где многие законодатели все еще пытаются понять, что именно представляет собой технология ИИ.
В попытке улучшить понимание законодателей сенатор Чак Шумер, демократ от Нью-Йорка и лидер большинства, начал летом 2023 года серию слушаний для законодателей, чтобы услышать от государственных чиновников и экспертов о достоинствах и опасностях искусственного интеллекта в ряде областей.
Шумер также подготовил поправку к сенатской версии законопроекта о разрешении на оборону в 2023 году, чтобы:
стимулировать сотрудников Пентагона сообщать о потенциальных проблемах с инструментами ИИ;
заказать отчет Пентагона о том, как улучшить обмен данными ИИ;
улучшить отчётность об ИИ в индустрии финансовых услуг.
Расследование и регулирование
13 июля 2023 г. Федеральная торговая комиссия США (FTC)начала расследование в отношении OpenAI, стартапа искусственного интеллекта, создающего ChatGPT, на предмет того, наносил ли чат-бот вред потребителям путем сбора данных и публикации ложной информации о физических лицах.
В 20-страничном письме агентство сообщило, что также изучает методы обеспечения безопасности OpenAI. В своем письме FTC задала OpenAI десятки вопросов, в том числе о том, как стартап обучает свои модели ИИ и обрабатывает персональные данные, и заявила, что компания должна предоставить агентству документы и подробности.
FTC изучает вопрос о том, «причастна ли OpenAI к недобросовестным или вводящим в заблуждение методам обеспечения конфиденциальности или безопасности данных или к недобросовестным или вводящим в заблуждение методам, связанным с рисками причинения вреда потребителям», говорится в письме.
Расследование FTC представляет собой первую серьезную регулятивную угрозу США для OpenAI, одной из самых известных компаний в области искусственного интеллекта, и сигнализирует о том, что технология может подвергаться все более тщательному изучению, поскольку люди, предприятия и правительства используют больше продуктов на основе искусственного интеллекта. Быстро развивающаяся технология вызвала тревогу, поскольку чат-боты могут генерировать ответы в ответ на запросы, потенциально могут заменить людей на их работе и распространять дезинформацию.
Сэм Альтман, руководитель OpenAI, считает, что быстрорастущую индустрию искусственного интеллекта необходимо регулировать. В мае 2023 ujlf он свидетельствовал в Конгрессе, призывая принять закон об искусственном интеллекте, и посетил сотни законодателей, стремясь определить политическую повестку дня для этой технологии.
OpenAI уже подвергся давлению регулирующих органов на международном уровне. В марте 2023 года орган по защите данных Италии запретил ChatGPT, заявив, что OpenAI незаконно собирает личные данные пользователей и не имеет системы проверки возраста, чтобы предотвратить доступ несовершеннолетних к незаконным материалам. OpenAI восстановила доступ к системе в апреле 2023 года, заявив, что внесла изменения, о которых просили итальянские власти.
FTC действует в отношении ИИ с заметной скоростью, начав расследование менее чем через год после того, как OpenAI представила ChatGPT. Лина Хан, председатель FTC, заявила, что технологические компании должны регулироваться, пока технологии только зарождаются, а не только тогда, когда они становятся зрелыми.
В прошлом агентство обычно начинало расследования после серьезных публичных ошибок со стороны компании, таких как открытие расследования политики конфиденциальности Meta после сообщений о том, что оно передало пользовательские данные политической консалтинговой фирме Cambridge Analytica в 2018 году.
Г-жа Хан ранее заявляла, что индустрия ИИ нуждается в тщательном анализе.
«Хотя эти инструменты являются новыми, они не освобождаются от существующих правил, и Федеральная торговая комиссия будет энергично обеспечивать соблюдение законов, которые нам поручено администрировать, даже на этом новом рынке», — написала она в гостевом эссе в The New York Times в мае 2023 года. «Несмотря на то, что технология развивается быстро, мы уже видим несколько рисков».
Лина Хан, председатель Федеральной торговой комиссии, заявила, что, хотя ИИ является новым, он не освобождается от существующих правил.
13 июля 2023 года на слушаниях в Судебном комитете Палаты представителей г-жа Хан заявила: «ChatGPT и некоторые другие сервисы получают огромное количество данных. Нет никаких проверок того, какой тип данных вводится в эти компании». Она добавила, что поступали сообщения о появлении «конфиденциальной информации» людей.
Расследование может заставить OpenAI раскрыть свои методы создания ChatGPT и источники данных, которые он использует для создания своих систем искусственного интеллекта. Хотя OpenAI долгое время довольно открыто сообщала такую информацию, в последнее время она мало говорила о том, откуда берутся данные для ее систем ИИ и сколько используется для создания ChatGPT, вероятно, потому, что она настороженно относится к копированию конкурентами и опасается судебных исков. над использованием определенных наборов данных.
Чат-боты, которые также внедряются такими компаниями, как Google и Microsoft, представляют собой серьезный сдвиг в способах создания и использования компьютерного программного обеспечения. Они готовы заново изобрести поисковые системы в Интернете, такие как Google Search и Bing, говорящих цифровых помощников, таких как Alexa и Siri, и почтовые службы, такие как Gmail и Outlook.
Когда OpenAI выпустила ChatGPT в ноябре 2022 года, она мгновенно захватила воображение публики своей способностью отвечать на вопросы, писать стихи и рифмовать практически на любую тему. Но технология также может смешивать факты с вымыслом и даже создавать информацию — явление, которое учёные называют «галлюцинациями».
ChatGPT управляется тем, что исследователи ИИ называют нейронной сетью. Это та же технология, которая осуществляет перевод между французским и английским языками в таких сервисах, как Google Translate, и идентифицирует пешеходов, когда беспилотные автомобили перемещаются по городским улицам. Нейронная сеть обучается навыкам, анализируя данные. Например, определяя закономерности на тысячах фотографий кошек, он может научиться распознавать кошку.
Исследователи из таких лабораторий, как OpenAI, разработали нейронные сети, которые анализируют огромное количество цифрового текста, включая статьи в Википедии, книги, новости и журналы онлайн-чатов. Эти системы, известные как большие языковые модели, научились генерировать текст самостоятельно, но могут повторять ошибочную информацию или комбинировать факты таким образом, что получается неточная информация.
В марте 2023 года Центр искусственного интеллекта и цифровой политики, правозащитная группа, выступающая за этичное использование технологий, обратилась к FTC с просьбой заблокировать OpenAI от выпуска новых коммерческих версий ChatGPT, сославшись на опасения, связанные с предвзятостью, дезинформацией и безопасностью.
Организация обновила жалобу в июле, описав дополнительные способы, которыми чат-бот может причинить вред, на что, по ее словам, также указал OpenAI.
«Сама компания признала риски, связанные с выпуском продукта, и призвала к регулированию», — сказал Марк Ротенберг, президент и основатель Центра искусственного интеллекта и цифровой политики. «Федеральная торговая комиссия должна действовать».
OpenAI работает над улучшением ChatGPT и сокращением количества предвзятых, ложных или иных вредных материалов. Когда сотрудники и другие тестировщики используют систему, компания просит их оценить полезность и правдивость ее ответов. Затем с помощью метода, называемого обучением с подкреплением, он использует эти рейтинги, чтобы более точно определить, что чат-бот будет делать, а что нет.
Расследование FTC в отношении OpenAI может занять много месяцев, и неясно, приведет ли оно к каким-либо действиям со стороны агентства. Такие расследования являются частными и часто включают показания высших руководителей корпораций.
Устранение потенциальных рисков, связанных с искусственным интеллектом
Картер С. Прайс (содиректор Центра масштабируемых вычислений и анализа RAND) и Мишель Вудс (заместитель директора отдела исследований национальной безопасности RAND) написали 13 июля 2023 года в комментариях на сайте корпорации, что хотя были предприняты попытки перечислить риски ИИ, простая категоризация могла бы разделить их на текущие риски, которые будут усугубляться ИИ, такие как террористы, использующие ИИ для разработки более смертоносного биологического оружия, и новые риски, специфичные для ИИ, такие как ИИ, выбирающий уничтожение человечества в качестве оптимальное решение проблемы изменения климата.
Подходы к управлению рисками, используемые для борьбы с текущими угрозами, скорее всего, потребуется пересмотреть, чтобы учесть непредвиденные возможности, которые может предоставить ИИ. Хотя существуют хорошо задокументированные риски, связанные с предвзятостью современного ИИ, которые необходимо устранить, новые риски, связанные с ИИ, в настоящее время слишком плохо определены, чтобы их можно было полностью устранить с помощью политики, поэтому исследователи и разработчики должны взять на себя инициативу. Однако как для существующих, так и для новых случаев можно предпринять шаги для подготовки к этим рискам.
Подходы к управлению рисками, используемые в страховании, финансах и других сферах бизнеса, обычно фокусируются на риске как продукте вероятности того, что что-то произойдет, и последствий этого события, измеряемых в долларах. Это хорошо работает в тех областях, где результаты можно легко преобразовать в доллары, есть результаты, которые легко поддаются количественной оценке, а наборы данных достаточно полны, чтобы производить надежные оценки вероятностей.
Подходы к управлению рисками, используемые для борьбы с текущими угрозами, скорее всего, потребуется пересмотреть, чтобы учесть непредвиденные возможности, которые может предоставить ИИ.
К сожалению, ни один из этих критериев не относится к рискам ИИ. Вместо того, чтобы думать о рисках как о вероятности и последствиях, в условиях, когда количественная оценка затруднена, риски можно рассматривать как комбинации угроз, уязвимостей и последствий. Такой подход используется в США Федеральным агентством по чрезвычайным ситуациям для подготовки к стихийным бедствиям, Агентством кибербезопасности и безопасности инфраструктуры при оценке способов защиты критической инфраструктуры, а также Министерством обороны для снижения угроз.
Уникальные риски ИИ сегодня в значительной степени не учитываются из-за их новизны, но ситуация меняется. 5 июля 2023 года OpenAI объявила о создании группы «Сверхсогласование» для устранения экзистенциальных рисков, связанных с ИИ. В контексте ИИ согласование — это степень, в которой действия системы ИИ соответствуют намерениям дизайнера. Этот акцент на исследованиях мировоззрения для сверхразума — отличное начало, но кажется слишком узким, и его можно было бы расширить.
Другие исследователи ИИ подчеркивают проблемы, связанные с расизмом, сексизмом и другими предубеждениями в существующих системах ИИ. Если систему ИИ нельзя спроектировать так, чтобы она была защищена от расизма или сексизма, как можно спроектировать ИИ так, чтобы он соответствовал долгосрочным интересам человечества? Поскольку компании вкладывают средства в исследования выравнивания, они также могут сделать упор на устранение этих хорошо известных, но сохраняющихся предубеждений в своих системах искусственного интеллекта.
В США обеспокоены тем, что ИИ вызовет хаос на выборах 2024 года
Последние несколько месяцев показали, насколько убедительными могут быть изображения, созданные искусственным интеллектом.
Команда губернатора Флориды Рона ДеСантиса опубликовала сфабрикованные изображения Трампа во время его пребывания на посту президента, обнимающего Энтони С. Фаучи.
Трамп, в свою очередь, поделился пародией на высмеиваемый запуск кампании ДеСантиса, в котором голоса, сгенерированные искусственным интеллектом, имитируют губернатора-республиканца, а также Илона Маска, Дика Чейни и других. А Республиканский национальный комитет выпустил рекламу, наполненную фальшивыми видениями антиутопического будущего при президенте Байдене.
В апреле Республиканский национальный комитет выпустил рекламу, полностью иллюстрированную с помощью искусственного интеллекта.
Плохая новость заключается в том, что нет никакой гарантии, что раскрытие информации станет нормой. Член палаты представителей Иветт Д. Кларк представила законопроект, который потребует раскрытия информации, идентифицирующей контент, созданный ИИ, в политической рекламе.
Национальный комитет Демократической партии и их коллеги, координирующие предвыборные гонки на уровне штатов и на местном уровне, должны пойти дальше, чем просто раскрытие информации, предлагая кандидатам указывать такие материалы во всех своих сообщениях, включая сбор средств и информационно-разъяснительную работу.
Партийные комитеты также должны рассмотреть возможность полного исключения некоторых видов использования.
В идеале кампании вообще должны воздерживаться от использования ИИ для изображения ложных реалий — в том числе, скажем, для изображения города, преувеличенно наполненного преступностью, для критики действующего мэра или для создания разношерстной группы нетерпеливых сторонников. По общему признанию, аналогичные эффекты могут быть достигнуты с помощью более традиционных инструментов для редактирования фотографий. Но вероятность того, что ИИ превратится во все более искусного иллюзиониста, а также вероятность того, что плохие актеры будут использовать его для огромной аудитории, означает, что крайне важно сохранить мир, в котором избиратели могут верить в то, что они видят.
Партийные комитеты должны вместе заняться этим нормотворчеством, подписав пакт, доказывающий, что достоверность информации на выборах не является вопросом партий. А честные кандидаты должны по собственной воле воздерживаться от нечестных выходок. Однако на самом деле им потребуется толчок со стороны регулирующих органов. У Федеральной избирательной комиссии уже есть строгий запрет на выдачу себя за кандидатов в предвыборной рекламе. Недавно агентство зашло в тупик, пытаясь выяснить, распространяется ли это право на изображения ИИ.
Есть много причин для беспокойства о том, что распространение ИИ сделает с демократией в США. Работа платформ по искоренению дезинформации стала еще более важной сейчас, когда можно рассказывать лучшую ложь стольким людям за такие небольшие деньги — и это становится все более трудным. Конгресс работает над широкой системой регулирования ИИ, но на это уйдут месяцы или даже годы.
ИИ в Китае
За последнее десятилетие Китай заложил прочную основу для поддержки своей экономики ИИ и внес значительный вклад в ИИ во всем мире. Индекс искусственного интеллекта Стэнфордского университета, который оценивает достижения ИИ во всем мире по различным показателям в исследованиях, разработках и экономике, ставит Китай в тройку лидеров по глобальному развитию ИИ.
Сегодня ИИ широко используется в Китае в сфере финансов, розничной торговли и высоких технологий, на долю которых в совокупности приходится более трети рынка ИИ в стране
В сфере технологий, например, лидеры Alibaba и ByteDance, известные в Китае, стали известны своими персонализированными потребительскими приложениями на основе искусственного интеллекта. На самом деле, большинство приложений ИИ, которые на сегодняшний день получили широкое распространение в Китае, относятся к отраслям, ориентированным на потребителя, благодаря крупнейшей в мире базе интернет-потребителей и возможности взаимодействовать с потребителями новыми способами для повышения лояльности клиентов, доходов, и рыночные оценки.
В ближайшее десятилетие в Китае появятся огромные возможности для роста ИИ в новых секторах, в том числе в тех, где расходы на инновации и НИОКР традиционно отставали от мировых аналогов: автомобилестроение, транспорт и логистика; производство; корпоративное программное обеспечение; здравоохранение и науки о жизни.
В этих секторах мы видим кластеры вариантов использования, в которых ИИ может создавать экономическую ценность на сумму более 600 миллиардов долларов в год. (Чтобы представить масштаб, валовой внутренний продукт в 2021 году в Шанхае, самом густонаселенном городе Китая с населением почти 28 миллионов человек, составил примерно 680 миллиардов долларов).
Для раскрытия всего потенциала этих возможностей ИИ обычно требуются значительные инвестиции — в некоторых случаях гораздо большие, чем могут ожидать руководители, — по нескольким направлениям, включая данные и технологии, которые будут лежать в основе систем ИИ, подходящие кадры и организационное мышление для создания этих систем, и новые бизнес-модели и партнерства для создания экосистем данных, отраслевых стандартов и правил.
Где в Китае ИИ может принести наибольшую пользу в будущем?
Это несколько секторов: автомобилестроение, транспорт и логистика, которые в совокупности, как ожидается, принесут большую часть — около 64 процентов — возможностей в размере 600 миллиардов долларов; производство, которое даст еще 19 процентов; корпоративное программное обеспечение, на долю которого приходится 13 процентов; а также здравоохранение и науки о жизни - 4 процента возможности.
Наш анализ показывает, что в каждом секторе возможности создания стоимости сосредоточены только в двух-трех областях. Как правило, это те области, в которых инвестиции частных и венчурных фирм были высокими за последние пять лет, и были представлены успешные доказательства концепции.
Идеи Шанхайской конференции
Всемирная конференция по искусственному интеллекту (WAIC) открылась в Шанхае 6 июля 2023 года. Китайские правительственные чиновники выступили единым фронтом в продвижении амбиций страны в области развития ИИ, несмотря на угрозу потенциальных новых технологических ограничений со стороны правительства Соединенных Штатов.
Заместитель министра промышленности и информационных технологий Китая Сюй Сяолань заявил в программной речи на конференции, что страна движется к разработке полной цепочки создания стоимости ИИ, которая охватывает «умные чипы и алгоритмы для промышленности. конкретные большие языковые модели (LLM)».
Она сказала, что правительство Китая увеличит свою поддержку отечественной индустрии искусственного интеллекта, которая, по оценкам, в настоящее время насчитывает более 4300 компаний.
Вторя этому заявлению, секретарь Коммунистической партии Шанхая Чен Цзинин сказал в своей презентации, что финансовый мегаполис уже поощряет ИИ «инновации алгоритмов, разработку чипов и языковых наборов данных». Он добавил, что Шанхаю удалось привлечь новые предприятия и таланты в сфере ИИ.
Оптимизм, выраженный этими двумя китайскими правительственными чиновниками, подчеркивает большую ставку страны на ИИ как на главный катализатор преобразования местной промышленности и подпитки падающей экономики страны.
В своем годовом отчёте о развитии искусственного интеллекта нового поколения (2022-2023 гг.) Служба экономической информации Китая — профессиональная организация при государственном информационном агентстве Синьхуа — сообщила, что сектор технологий искусственного интеллекта страны уже вышел на мировой уровень, что составляет около 16% компаний по всему миру, которые вовлечены в эту технологию.
В статье, опубликованной в июне 2023 года в People's Daily, официальной газете Центрального комитета Коммунистической партии Китая, говорится, что генеративный ИИ находится на пути к тому, чтобы стать неотъемлемой частью рабочего места и повседневной жизни людей, что приведет к глубокие изменения в обществе, стимулирующие экономический рост и приводящие к новой промышленной революции.
В статье «Жэньминь жибао» также говорится, что на сегодняшний день китайские учреждения запустили не менее 79 LLM с более чем 1 миллиардом параметров, что является мерой размера и сложности модели.
LLM — это алгоритмы искусственного интеллекта с глубоким обучением, которые могут распознавать, обобщать, переводить, прогнозировать и генерировать контент, используя очень большие наборы данных. Они представляют собой технологию, используемую для обучения чат-ботов с искусственным интеллектом, например ChatGPT от OpenAI.
Заместитель председателя правления Huawei Technologies Кен Ху Хоукунь, который также является председателем правления технологического гиганта из Шэньчжэня, сказал, что компания пытается решить текущее узкое место «вычислительной мощности», которое препятствует развитию ИИ в Китае.
Правительство США в августе 2022 года ввело запрет на экспорт в Китай определенных продуктов от поставщиков чипов Advanced Micro Devices и Nvidia Corp, которые имеют почти монополию на графические процессоры (GPU), используемые для обучения систем искусственного интеллекта. Эти ограничения препятствуют прогрессу страны в различных передовых приложениях, от разработки LLM до автономного вождения.
Тем не менее, Ху указал, что Huawei помогла разработать около половины существующих LLM, разработанных в Китае, с помощью решения компании Ascend для центра обработки данных, представляющего собой кластерную сеть для крупномасштабного обучения моделей ИИ.
Тем временем соучредитель SenseTime Шон Тан Сяоу заявил в своей презентации на открытии WAIC, что китайские ученые внесли свой вклад в глобальное развитие технологий машинного обучения и крупных моделей ИИ.
Амбиции Китая в области искусственного интеллекта могут столкнуться с новым ударом, поскольку, как сообщается, правительство США рассматривает возможность ограничения доступа китайских компаний к американским службам облачных вычислений, что помешает Amazon Web Services и Microsoft Corp использовать возможности передовых чипов искусственного интеллекта для своих клиентов на материке.
Вашингтон также работает над новыми правилами, которые ограничат потоки капитала и информации в чувствительные технологии в Китае, такие как полупроводники и искусственный интеллект.
Потенциальный запрет США на доступ китайских фирм к американским службам облачных вычислений может оказаться следующим серьезным препятствием для усилий страны по развитию LLM, по словам руководителя отрасли WAIC. Он сказал, что обучение систем искусственного интеллекта требует значительных вычислительных мощностей.
Огромный спрос Китая на передовые полупроводники для новых проектов разработки ИИ уже создал быстрорастущий рынок контрабандных графических процессоров, таких как устройства A100 и H100 от Nvidia.
Новые правила регулирования
13 июля 2023 года Китай выпустил самые подробные правила в отношении моделей генеративного искусственного интеллекта (ИИ), подчеркнув здоровый контент и «основные социалистические ценности», поскольку Пекин стремится контролировать развертывание услуг в стиле ChatGPT.
В соответствии с предварительными правилами, опубликованными совместно семью китайскими регулирующими органами во главе с Администрацией киберпространства Китая, которые вступят в силу 15 августа 2023 года, все услуги генеративного контента ИИ, включая текст, изображения, аудио и видео, предоставляемые населению Китая, будут подлежать к новым правилам.
По сравнению с более ранним проектом, опубликованным в апреле 2023 года с целью получения отзывов общественности, новые правила имеют более благосклонный тон в отношении новой технологии, а власти обещают «принять эффективные меры для поощрения инновационного развития генеративного ИИ».
Китай ещё не разрешил какой-либо отечественной фирме развернуть услуги в стиле ChatGPT для широкой публики, а Ernie Bot из Baidu и Tongyi Qianwen из Alibaba Group Holding либо все еще находятся в пробном режиме, либо предназначены только для коммерческого использования.
Между тем, ChatGPT от OpenAI и Bard от Google остаются недоступными в Китае, а ссылки на эти зарубежные модели быстро блокируются. Новые правила, хотя и предназначены для тщательного контроля над развитием генеративного ИИ, скорее всего, обеспечат отечественным разработчикам более четкий путь для вывода своей продукции на массовый рынок.
Китайские регулирующие органы заявили, что будут проявлять «инклюзивное и разумное» отношение к генеративным услугам ИИ и внедрять «градуированный» подход к регулированию. К другим регулирующим органам, участвующим в проекте правил, относятся Национальная комиссия по развитию и реформам, Министерство образования, Министерство науки и технологий, Министерство промышленности и информационных технологий, Министерство общественной безопасности и Управление вещания Китая.
В соответствии с новыми правилами поставщики услуг генеративного ИИ должны: «придерживаться основных социалистических ценностей» и обязуются не создавать никакого контента, который «подстрекает к подрыву государственной власти и свержению социалистической системы, ставит под угрозу национальную безопасность и интересы, наносит ущерб имиджу страны, подстрекает к отделению от страны, подрывает национальное единство и социальную стабильность, пропагандирует терроризм, экстремизм, национальную ненависть и этническую дискриминацию, насилие, непристойность и порнографию».
В более общем плане модели ИИ и чат-боты не должны генерировать «ложную и вредную информацию».
Разработанные в Китае чат-боты и модели искусственного интеллекта уже имеют встроенные функции, гарантирующие, что создаваемый контент не содержит нежелательной информации. Например, Чжун Хунъи, председатель 360 Security Technology, постарался описать в презентации функцию самоцензуры чат-бота, показав, что если пользователь вводит «деликатное слово», чат-бот немедленно прекращает разговор.
Что касается разработки алгоритмов и выбора данных для обучения, регулирующие органы Китая требуют, чтобы поставщики услуг избегали любой дискриминации по признаку этнической принадлежности, вероисповедания, страны, региона, пола, возраста, профессии и состояния здоровья, а также уважали права интеллектуальной собственности.
Согласно новому постановлению, Китай также поощряет «инновационное применение генеративной технологии искусственного интеллекта», а также «позитивный, здоровый контент».
Постановление согласовывает развитие ИИ с политическими и экономическими приоритетами Китая в соответствии с его постановлением 2021 года об алгоритмах рекомендаций и постановлением 2022 года о глубоком синтетическом контенте, который Пекин требует маркировать как «синтетически созданный».
Ся Хэйлун, юрист шанхайской юридической фирмы Shen Lun, сказал, что «основной регулятивный подход в новом регламенте согласуется с общей регулятивной концепцией Китая в отношении киберпространства» с упором на соответствие контента и соблюдение основных ценностей, защиту личной информации, а также обязательство предотвращать нарушения.
В то же время Ся отметил, что Китай пытается регулировать общедоступные услуги ИИ, а не технологии ИИ как таковые. Например, услуги на основе ИИ, предназначенные для промышленного или внутреннего корпоративного использования, не подпадают под действие закона, сказал Ся.
Новые правила соответствуют Закону Китая о кибербезопасности, Закону Китая о безопасности данных и Закону о защите личной информации.
Новые правила также предусматривают, что поставщики услуг генеративного ИИ должны прекратить свою деятельность и сообщить о незаконных действиях, если обнаружат, что пользователи используют ИИ для создания нелегального контента на своих платформах.
Поставщики услуг ИИ также должны установить барьеры, чтобы предотвратить зависимость несовершеннолетних от таких услуг.
ИИ в России
За технологиями искусственного интеллекта (ИИ) — будущее, это не менее важно, чем атомные проекты в СССР. Об этом заявил Президент России Владимир Путин 19 июля 2023 года во время совещания с участниками заседания наблюдательного совета АНО «Россия — страна возможностей».
В тот же день 19 июля 2023 года Президент России в режиме видеоконференции провел совещание с членами Правительства РФ во вопросам развития искусственного интеллекта.
На совещании отмечалось, что руководители регионов до 1 сентября 2023 года обязаны завершить работу по разработке стратегий, предусматривающих внедрение ИИ. Развитие искусственного интеллекта – это одно из ключевых условий достижения технологического суверенитета страны. Искусственный интеллект сегодня – это технологии распознавания лиц для обеспечения безопасности, предиктивная аналитика для прогнозирования урожая, внесения удобрений, производственных процессов, распознавание снимка в медицине, компьютерное зрение в производственных системах и многое другое.
В России растёт объём рынка продуктов, в которых используются такие технологии: в 2022 году он увеличился на 18 процентов и достиг почти 650 миллиардов рублей. Но в отличие от многих других стран в России есть компании, которые создают решения мирового уровня.
При этом Правительство РФ работает по повестке искусственного интеллекта реализуя национальную стратегию до 2030 года.
Основным инструментом реализации стратегии стал федеральный проект «Искусственный интеллект». Он включает три основных направления работы.
Первое – это развитие фундаментальной и прикладной науки. На базе ведущих вузов и научных организаций созданы и работают шесть исследовательских центров. Они ищут подходы, как обучить нейросети на меньшем количестве данных, как повышать скорость вычислений с помощью машинного обучения, создают новые методы и архитектуры формирования нейросетей. На эти исследования из федерального бюджета выделено более пяти миллиардов рублей в течение четырёх лет. Показателем эффективности центров является то, что они готовят решения по внедрению искусственного интеллекта для бизнеса. В центрах привлекли на это почти 2,5 миллиарда рублей частного финансирования от ведущих российских компаний.
Вторая задача – это подготовка кадров. С 2022 года более ста вузов запустили программы бакалавриата и магистратуры для подготовки специалистов по искусственному интеллекту. Сейчас по ним обучаются три тысячи человек, а с 2024 года будет обучаться в четыре раза больше студентов, то есть мы доведём до 12 тысяч человек.
Есть также подготовка и в рамках дополнительного профессионального образования. В 2022 году обучение по востребованным специальностям в сфере искусственного интеллекта – от аналитика данных до руководителя проектов – прошли почти две тысячи человек, столько же учится сейчас, и из бюджета компенсируется 90 процентов затрат на такое обучение.
Для вовлечения молодёжи в развитие технологий искусственного интеллекта проводятся хакатоны среди молодых IT-специалистов. За два года участие в них приняли более 20 тысяч человек. Что такое хакатон? Это когда компании предлагают, скажем так, практические проблемы, которые надо решить, объявляют некий премиальный фонд, и команды специалистов из числа молодёжи в течение суток, двух суток предлагают свои решения.
Третья задача федпроекта – это грантовая поддержка компаний-разработчиков. За последние два года на это было направлено семь миллиардов рублей. Во-первых, через Фонд содействия инновациям поддерживаются небольшие проекты: там компании получают гранты до 50 миллионов рублей. Уже профинансированы проекты более 750 компаний.
Все разработчики, которых поддерживает Правительство РФ, включаются в специально созданный реестр инновационных компаний. Это позволяет отслеживать этапы их развития и привлекать инвесторов. Сейчас в реестре более 1000 стартапов, у которых решения – с использованием искусственного интеллекта.
Расширять сферы применения ИИ помогают также экспериментально-правовые режимы. На сегодняшний день установлено шесть режимов в сфере беспилотного транспорта. Три из них обеспечили запуск легковых и грузовых наземных беспилотников: это уже известный опыт беспилотных грузоперевозок Москва – Питер и то, что в Иннополисе, и в Москве сейчас вышло на дороги такси в беспилотном режиме. Ещё три режима установлены для тестирования авиабеспилотников. Их будут использовать для сельхозработ и мониторинга лесных пожаров.
18 июля 2023 года подписано постановление Правительства РФ, которое даст ход ещё одному эксперименту – уже в сфере телемедицины.
Подготовлен законопроект, который позволит учитывать вопросы, связанные с ответственностью за причинение вреда в результате использования искусственного интеллекта, а также урегулирует вопросы защиты прав на результаты интеллектуальной деятельности, которые созданы с использованием таких технологий.
На совещании обращено внимание на системообразующее развитие для отрасли.
Во-первых, разработчики искусственного интеллекта должны получить доступ к обезличенным данным – весь искусственный интеллект строится на обработке больших массивов данных. Это условия развития всей отрасли. Это ключевой вопрос, по которому необходимо ускорить работу.
Второй момент – внедрение искусственного интеллекта должно стать одним из условий предоставления господдержки компаниям. С 2024 года будет протестирован подход в сельском хозяйстве, транспорте, промышленности и здравоохранении, то есть в тех отраслях, где у действительно наработана уже большая практика решений. То есть если компании будут получать какую-то субсидию из бюджета выше определённой суммы, они должны будут у себя внедрить то или иное решение с использованием искусственного интеллекта. Тем самым поощряется спрос на все эти разработки.
Третье – обеспечивается интеграция инструментов национального проекта «Производительность труда» в программы развития искусственного интеллекта.
В рамках «пилота» Федеральный центр компетенций проанализировал 80 решений, отобрал десять для внедрения на предприятиях – участниках национального проекта.
При этом Федеральный центр компетенций готов выступить таким заказчиком и агрегатором функциональных требований и помогать внедрению искусственного интеллекта.
Четвёртый момент – искусственный интеллект должен активнее внедряться в образовательные программы вузов. В Минобрнауки разработан специальный учебный модуль, специальная программа. Внедрение этого модуля носит рекомендательный характер. Предлагается сделать внедрение модуля обязательным для таких образовательных программ, особенно там, где у нас есть IT-кафедры, их сейчас тоже много создаётся.
Пятый момент – на базе вузов будут открыты новые исследовательские центры. В дополнение к действующим шести до конца 2023 года по конкурсу предлагаем отобрать ещё не менее шести для поддержки уже на 2023–2026 годы.
Какие задачи необходимо дополнительно решать Правительству РФ уже следующем этапе развития ИИ и какие вызовы возникают?
Первое – необходимо формировать условия для создания собственных вычислительных мощностей, причём на будущее – кратно больших, чем то, что у имеется, в том числе в виде крупных вычислительных кластеров. В перспективе, с использованием отечественных комплектующих.
Второй момент – поддержать учёных и молодые компании грантами на доступ к этим вычислительным мощностям, с тем чтобы они могли активно разрабатывать и обучать сложные нейросети с использованием большего количества параметров, а также совершенствовать их архитектуру, потому что отчасти правильной архитектурой можно компенсировать некий недостаток вычислительных мощностей.
Третий момент – в России существует большая государственная программа «Научно-технологическое развитие» – более триллиона рублей финансируются на научные исследования. Предложено дополнительно вместе с Академией наук провести мониторинг, насколько мы в научных исследованиях страны используются технологии искусственного интеллекта. Нам кажется, там тоже есть большой потенциал повышения эффективности научных исследований.
Четвёртый момент. Необходимо разграничить ответственность за разработку и за последующее применение, использование больших сложных систем искусственного интеллекта, больших сложных нейросетей. Крайне важно, чтобы разработчик понимал периметр своей ответственности, чтобы он не отвечал – условно – за все продукты, которые искусственный интеллект может выдать и сгенерировать – какие-то изображения, тексты и так далее. Иначе начнутся какие-то ограничения в сфере моделей, введение внутренних цензоров. Это резко снижает эффективность апробации, внедрения и самих нейросетей.
Все эти задачи предлагается интегрировать в Национальную стратегию развития искусственного интеллекта, которую Президент России поручил обновить, сейчас эта работа завершается. Благодаря решения о продлении федерального проекта «Искусственный интеллект», включению его в формирующийся нацпроект «Экономика данных» сейчас возможно заложить все мероприятия, которые необходимы, и обеспечить их финансированием.
Рассмотреть итоговую конфигурацию варианта нацпроекта планируется на стратегической сессии под руководством Председателя Правительства, она запланирована в сентябре 2023 года.
Главные усилия сейчас направлены на создание законодательной базы, которая позволит обеспечить доступность больших данных для разработчиков искусственного интеллекта. На площадке Госдумы сейчас завершена доработка поправок, которые Правительство РФ внесло ко второму чтению совместно с профильными управлениями Администрации, профильным комитетом Госдумы.
Работа была сконцентрирована на вопросах обеспечения защиты прав и интересов граждан при обработке больших данных и применении искусственного интеллекта. Сейчас коммерчески оборот больших данных в России не регламентирован, хаотично осуществляется, потому что понятных и прозрачных правил нет.
В рамках уточнённых поправок ко второму чтению согласованы процедуры обезличивания данных, определен порядок, как будут формироваться датасеты, необходимые для этого машинного обучения. Достигнута договоренность о тех правилах, на которых внешние разработчики получат доступ к этим данным, для того чтобы начать обучать свои нейросети.
При этом подготовленными поправками предусматривается прямой однозначный запрет на обработку больших данных, если это создаёт риски причинения вреда гражданам, обороне и безопасности.
Доступ внешних разработчиков к большим данным будет возможен только в случае подтверждения отсутствия в них сведений, которые позволят идентифицировать гражданина, то есть мы исключаем любую персонификацию обрабатываемых больших данных.
Внешний доступ к большим данным также будет запрещён иностранным гражданам и компаниям с доминирующим иностранным участием.
Получилась конструкция, которая исходит из безусловной защиты интересов и прав граждан и при этом обеспечивает доступ разработчиков к большим данным.
Для организации работы с большими данными создаётся на платформе «Гостех» государственная информационная система. В неё будут загружаться обезличенные датасеты – как от органов власти, так и от бизнеса, и уже к этим наборам данных будет предоставлен доступ авторизованным разработчикам нейросетей, которые соответствуют необходимым требованиям.
Эти обезличенные наборы данных нельзя будет скачать, выгрузить, забрать из этой информационной системы. Можно будет на них тестировать, настраивать алгоритмы, обучать нейросети. Это не создаёт угрозы этим данным.
Определены пять главных приоритетов внедрения искусственного интеллекта в системе госуправления.
Первое – искусственный интеллект должен упростить получение госуслуг. Идеальный вариант, как будет обеспечено: искусственный интеллект даёт возможность в диалоге, задавая человеку простые вопросы, получать конкретно ответы, на что он [человек] может рассчитывать в его конкретном случае, какие действия он должен совершить, чтобы получить ту или иную услугу, какие документы представить. Это существенно упростит получение госуслуг.
На портале госуслуг уже запустили робота, который отвечает на вопросы пользователей фактически автоматически. В день 1,5 миллиона вопросов пользователей он обрабатывает в автоматическом режиме. Качество 85 процентов ответов пользователи считают хорошим. Этот робот фактически в восьми случаях из десяти автоматически даёт подсказки человеку, что ему нужно делать для того, чтобы получить ту или иную услугу.
Идеально, когда это вообще осуществляется голосом, когда можно голосом обозначить вопрос, и вам робот ответит, что вам нужно делать, или запишет к врачу. Такой «пилот» идёт вместе с «Яндексом» и со Сбербанком, с их голосовыми помощниками – это такие специальные станции, – когда уже можно будет голосом получать государственные услуги.
Второе направление – это большая рекомендательная система, которая будет помогать регионам планировать своё территориальное развитие, определять места, где лучше построить детский сад, школу, поликлинику с учётом плотности населения, транспортной доступности, социальной инфраструктуры, которая есть рядом.
Эта же система будет предлагать варианты, как оптимизировать движение транспорта, как оптимально выстроить маршруты общественного транспорта, какое должно быть расписание с учётом реальной загрузки и трафика, который есть на транспортных коммуникациях.
Третье направление –это использование искусственного интеллекта в медицине.
В 2023 году запускается большой «пилот». Уже сформированы в регионах большие массивы электронных медицинских изображений, где как раз уже проведена разметка и выявлены заболевания. Это те самые датасеты, на которых можно учить алгоритмы делать это автоматически, фактически мы будут «скармливаться» им уже размеченные снимки, где диагностировано заболевание, а дальше нейросети смогут на новых снимках помогать врачу, обращая внимание там, где есть потенциальные признаки таких заболеваний, то есть работа врачей в данном случае станет легче. С врачей снимается рутинная нагрузка.
Четвёртое направление – это анализ спутниковых снимков: незаконная вырубка леса, вовлечение земель в сельхозоборот, эффективность засевов. Искусственный интеллект позволяет выявлять объекты, которые построены, но не зарегистрированы, соответственно, с них не платятся налоги.
Пятое направление, – климатическая повестка. В России накоплен очень большой массив данных наблюдения за погодой, который за многие десятилетия в Росгидромете сформирован. Создается большой датасет, который позволит тестировать новые технологии прогноза погоды, которые будут уже значительно оперативнее, точнее, качественнее.
На совещании предложено, что за вопросы ИИ должны отвечать те заместители руководителей ведомств, которые сейчас отвечают за цифровую трансформацию. Тогда внедрение цифровых технологий, работа с данными и искусственный интеллект будут в одних руках, и это будет всё между собой увязано.
С 1 января 2023 года в Налоговом кодексе действует стимулирующая мера для компаний – внедрять российские решения с искусственным интеллектом. Компании расходы, которые тратят на внедрение российских решений ИИ, могут списывать с коэффициентом 1,5, то есть фактически уменьшая немного налог на прибыль. Уже 17 российских решений зарегистрировано, по 28 решениям сейчас рассматриваются заявки. Бизнес начинают активно пользоваться этими мерами, внедрять эти решения и получать соответствующие льготы.
Завершая совещание Президент России Владимир Путин отметил, что по многим направлениям использования цифровых решений Россия уже находится в числе глобальных лидеров:
«Есть ограничения, и без определённых связей, контактов и наработок на мировом уровне нам не обойтись. Тем не менее, обеспечивая настоящий технологический суверенитет нашей страны, нужно думать именно о собственных ресурсах. В этой связи отмечу несколько конкретных мер.
Первое – напомню, что мы договорились обеспечить до 2030 года государственную поддержку исследовательских центров в области искусственного интеллекта. И здесь нужно отработать все нормативные, организационные и финансовые вопросы, в том числе в федеральном бюджете на 2024–2026 годы должны быть заложены средства на финансирование таких исследовательских центров. Если этого не будет, то и движения вперёд не будет.
Второе – необходимо расширить охват компаний с государственным участием, которые используют или планируют задействовать механизмы искусственного интеллекта в своей работе. Прошу это рассматривать как прямое поручение. Нужно поработать с этими компаниями. Да, безусловно, потребуются изменения в корпоративные стратегии цифровой трансформации – да, конечно. Прошу Правительство предметно заняться этим вопросом с компаниями, как я уже сказал.
Третье. Ключевой элемент, основа работы искусственного интеллекта, мы это хорошо все знаем, – это обработка больших массивов данных. Я уже не раз говорил, подобные сведения, которые касаются наших граждан, должны быть обезличены и надёжно защищены. С учётом этих обязательных требований нужно организовать доступ к данным со стороны участников рынка. И прошу Правительство совместно с Государственной Думой рассмотреть и принять такой законопроект в осеннюю сессию текущего года.
Четвёртое. У нас запущены экспериментальные правовые режимы в сфере цифровых инноваций, однако их механизмы требуют, безусловно, совершенствования, в том числе на законодательном уровне. Нужно дополнительно упростить доступ к таким режимам, а также ввести страхование ответственности за возможный ущерб, причинённый при использовании искусственного интеллекта, мы об этом тоже много раз уже говорили. Эту работу также прошу завершить в период осенней сессии парламента.
Пятое. Как уже отметил, технологии искусственного интеллекта несут прямую экономическую выгоду, всем это понятно. Тем не менее на начальном этапе их внедрение идёт не очень активно. Лидеры у нас есть, но за ними «скамеечка запасных» небольшая. Мы с вами уже договаривались, как надо поступить в этой ситуации, а именно: включить требования по обязательному использованию искусственного интеллекта для компаний, которые планируют получить субсидии из федерального бюджета. Хотите субсидии – пожалуйста, развивайтесь в этом направлении.
Шестое. Важнейший вопрос – это подготовка специалистов, которые работают с цифровыми технологиями. Всем вузам страны уже направлен обновлённый образовательный модуль «Системы искусственного интеллекта», он рекомендован к включению в обязательные программы. Думаю, можно сделать более решительный шаг сегодня и объявить такой модуль обязательным».
*Деятельность Meta* (соцсети Facebook* и Instagram*) запрещена в России как экстремистская.
Елена Ларина, Владимир Овчинский
28.06.2023 Что делать с искусственным интеллектом?
Дискуссии и решения: от экономики до войны
Стремительное развитие искусственного интеллекта, особенно разработанного на его основе чат – бота ChatGPT, вызвало во всем мире ожесточенные дискуссии о правовом регулировании ИИ, объемах выделяемых средств и его эффективности.
1. Споры в Конгрессе США
В статье Люка Хогга (директор по связям с общественностью в Фонде американских инноваций) в The National Interest “Америка не может позволить себе быть похожей на Европу в регулировании искусственного интеллекта” (22.06.2023) делается вывод о том, что“строгие правила в отношении новых приложений для систем ИИ, введенные независимо от конкретного и доказуемого вреда, скорее всего, задушат коммерческие инновации”.
В ноябре 2022 года исследовательская некоммерческая организация OpenAI выпустила в мир ChatGPT, своего чат-бота на основе искусственного интеллекта (ИИ). Всего за несколько месяцев до этого разговоры об ИИ сводились к академическим конференциям и съездам научной фантастики. Но по мере того, как ChatGPT стремительно развивался и стал самым быстрорастущим потребительским приложением в истории, искусственный интеллект быстро превратился в проблему кухонного стола. Теперь политики обращают внимание на отрасль и задают вопрос: насколько необходимо регулирование, чтобы снизить потенциальные риски, не подавляя инновации?
От правительственных отчетов до брифингов и слушаний до законодательства, искусственный интеллект является темой дня на Капитолийском холме, поскольку законодатели пытаются ответить на этот вопрос. Хотя законодательные предложения, касающиеся ИИ, сильно различаются, дух таких предложений обычно можно разделить на две категории.
Первый состоит из предложений, направленных в первую очередь на снижение потенциальных рисков ИИ, которые обычно используют более жесткий подход к регулированию во имя защиты прав потребителей.
Второй использует более широкий взгляд на экосистему ИИ, пытаясь способствовать инновациям и глобальной конкурентоспособности с помощью более мягкого режима регулирования.
“Хотя оба подхода имеют благие намерения, последний, ориентированный на инновации и конкурентоспособность, обещает больше. В конце концов, Соединенные Штаты — не единственная страна, разрабатывающая системы искусственного интеллекта, и в условиях Великого технологического соперничества важно, чтобы мы оставались конкурентоспособными в мире в области передовых технологий. Если Вашингтон будет слишком жестко регулировать ИИ, он рискует превратиться в инновационную пустыню, как и Европа”.
Тяжелая рука…
Типичным примером жесткого подхода является представитель Тед Лью (штат Калифорния). Как один из очень немногих членов Конгресса, имеющих ученые степени в области компьютерных наук, член палаты представителей Лью был одним из самых громких законодателей по вопросу регулирования ИИ. Незадолго до представления первого федерального законодательного акта, в значительной степени написанного ИИ, член палаты представителей Лью написал в New York Times:
“Стремительный прогресс в области технологий искусственного интеллекта ясно дал понять, что сейчас настало время действовать, чтобы обеспечить безопасное, этичное и полезное для общества использование ИИ. Невыполнение этого требования может привести к будущему, в котором риски ИИ намного перевешивают его преимущества…. Нам нужно специальное агентство для регулирования ИИ”.
Хотя член палаты представителей Лью признает, что у его предложения мало шансов пройти через Конгресс на этой сессии, и признает, что первым шагом на пути к регулятору ИИ является подход «изучение и отчет», Лью и многие его коллеги слишком сосредоточены на том, чтобы не дать потребителям вред, который в значительной степени остается теоретическим. Такой подход направлен на создание режима регулирования, основанного на том, что эти технологии «могут» или «могут» сделать в будущем.
Эта перспективная структура противоречит быстрым инновациям. За доказательствами нам достаточно взглянуть на Европу.
Брюссель имеет давнюю традицию жесткого регулирования технологий во имя снижения рисков для потребителей. Возьмем, к примеру, всеобъемлющую систему защиты данных Европейского Союза.
Общий регламент по защите данных (GDPR) преследует три основные цели:
защита потребителей в отношении обработки персональных данных;
защита права на защиту персональных данных;
обеспечение свободного перемещения персональных данных в пределах Союза.
В разной степени GDPR, возможно, преуспел в достижении первых двух из этих целей. Законодательство создало надежную защиту прав потребителей в отношении сбора и обработки персональных данных.
Однако в большинстве случаев GDPR не смог достичь цели обеспечения свободного перемещения данных. В первую очередь это связано с тем, что данные, беспрепятственно перемещающиеся через физические границы, не так легко препятствовать. Техническим платформам и приложениям было трудно соответствовать GDPR, что, в свою очередь, ограничивало добровольный свободный поток личной информации, а не обеспечивало его.
Согласно одному исследованию, в ходе которого было изучено более 4 миллионов программных приложений, внедрение GDPR «вызвало выход примерно трети доступных приложений». Возможно, что еще хуже, GDPR привел к нехватке технологических инноваций по всей Европе. Это же исследование показало, что выход на рынок новых приложений после введения GDPR сократился вдвое.
В настоящее время Европейский парламент разрабатывает закон, который должен стать «первым в мире всеобъемлющим законом об искусственном интеллекте». Хотя этот предлагаемый закон ЕС об искусственном интеллекте не является универсальной политикой, подобной GDPR и другим европейским техническим регламентам, он установит строгие правила для любой системы, использующей технологию искусственного интеллекта. Такие строгие правила в отношении новых приложений для систем ИИ, введенные независимо от конкретного и доказуемого вреда, скорее всего, задушат небольшие коммерческие инновации в области ИИ, которые остаются в Европе.
…по сравнению с легким прикосновением
“Соединенные Штаты не могут позволить себе идти по стопам Европы и вводить деспотичные правила, которые могут препятствовать инновациям, ради уменьшения недоказанного вреда, - пишет автор, - поскольку Китай лидирует как в инновациях, так и в регулировании ИИ , мы должны проявлять осмотрительность в нашем собственном подходе к обоим”.
“Системы ИИ, безусловно, представляют новые и уникальные риски практически во всех аспектах человеческой жизни. Но эти новые технологии также открывают новые и уникальные возможности, которым не должен препятствовать деспотический подход, вызванный моральной паникой”.
Как недавно написали эксперты в журнале American Affairs, для правильного регулирования ИИ «требуется подход, основанный на здравом смысле, который может объяснить как умопомрачительную динамику передовых систем ИИ, а также правильно оценить риски, связанные с регулированием ИИ и неправильной работой ИИ».
В то время как член палаты представителей Тед Лью и его коллеги из лагеря «небо падает» заходят слишком далеко в направлении обременительного европейского технологического регулирования, есть другой лагерь, который признает важность легкого подхода к поддержке внутренних инноваций и глобальных конкурентоспособность.
Ярким примером этого является недавно представленный закон сенаторов Майкла Беннета (штат Колумбия), Марка Уорнера (штат Вирджиния) и Тодда Янга (республиканец). В соответствии с Законом об американском технологическом лидерстве, принятым на последнем Конгрессе, это пересмотренное предложение предусматривает создание нового Управления анализа глобальной конкуренции. Целью этого нового офиса будет оценка глобальной конкурентоспособности Америки в области стратегических технологий и предоставление политических рекомендаций по способам защиты и повышения конкурентоспособности. Как заявил сенатор Беннет, цель закона состоит в том, чтобы «утратить наше конкурентное преимущество в таких стратегических технологиях, как полупроводники, квантовые вычисления и искусственный интеллект, таким конкурентам, как Китай».
Этот второй лагерь, представленный сенатором Беннетом и его коллегами, менее реактивен, более конструктивен, учитывает важность глобальной конкуренции и признает, что необходима осторожность, чтобы избежать навязывания жестких правил, которые препятствуют инновациям и ограничивают способность страны идти в ногу с достижениями ИИ. Чтобы было ясно, эти законодатели не игнорируют реальные риски, связанные с системами ИИ. Скорее, они рассматривают такие риски в глобальной перспективе и делают более обоснованные расчеты относительно надлежащего уровня регулирования.
Поддержание американских инноваций
“Создавая среду, поощряющую как внутреннюю, так и глобальную конкуренцию в области технологий ИИ, и создавая нормативно-правовую базу, способствующую ответственному использованию ИИ, Соединенные Штаты могут сохранить свое мировое лидерство в этой важнейшей области”, считает Люг Хогг. “Принимая легкое регулирование, ориентированное на глобальную конкурентоспособность, политики могут поощрять инвестиции, привлекать лучших специалистов в области ИИ и создавать среду, которая позволяет американским компаниям лидировать в разработке ИИ. Предоставляя пространство для экспериментов и адаптации, Соединенные Штаты могут оставаться в авангарде инноваций в области искусственного интеллекта, обеспечивая экономические и социальные преимущества, сохраняя при этом конкурентное преимущество на мировой арене”.
2. Большие языковые модели ИИ: объемы и затраты
Журнал The Economist опубликовал статью «Подход «чем больше, тем лучше» к ИИ иссякает” (21.06.2023), которой делается вывод, что“если ИИ хочет продолжать совершенствоваться, ему придется делать больше с меньшими затратами”.
GPT - 3, выпущенный в 2020 году, был гигантом. У него было 175 миллиардов «параметров», как называются смоделированные связи между этими нейронами. Он был обучен на тысячах графических процессоров (специализированных чипов, которые преуспевают в области искусственного интеллекта). Он перемалывать сотни миллиардов слов текста в течение нескольких недель. Все это обошлось не менее чем в 4,6 миллиона долларов.
Модели растут стремительными темпами. Считается, что GPT - 4, выпущенный в марте 2023 года, имеет около 1 триллиона параметров — почти в шесть раз больше, чем его предшественник. Сэм Альтман, глава фирмы, оценил затраты на разработку более чем в 100 миллионов долларов. Подобные тенденции существуют во всей отрасли. Исследовательская фирма Epoch AI подсчитала, что в 2022 году вычислительная мощность, необходимая для обучения передовой модели, удваивалась каждые шесть - десять месяцев (см. диаграмму).
Этот гигантизм становится проблемой. Если цифра удвоения Epoch AI за десять месяцев верна, то к 2026 году затраты на обучение могут превысить миллиард долларов — при условии, что у моделей не закончатся данные первыми. Анализ, опубликованный в октябре 2022 года, прогнозирует, что запас качественного текста для обучения вполне может быть исчерпан примерно в то же время. И даже после завершения обучения фактическое использование полученной модели также может быть дорогостоящим.
Чем больше модель, тем дороже она стоит. Ранее в этом году банк Morgan Stanley предположил, что если половина поисковых запросов Google будет обрабатываться текущей программой в стиле GPT, это может обойтись фирме в дополнительные 6 миллиардов долларов в год.
По мере того, как модели становятся больше, это число, вероятно, будет расти.
Поэтому многие в этой области считают, что подход «чем больше, тем лучше» исчерпал себя. Если модели ии будут продолжать совершенствоваться — не говоря уже о том, чтобы воплотить в жизнь мечты об ИИ , охватившие в настоящее время всю технологическую отрасль, — их создателям нужно будет придумать, как добиться большей производительности при меньшем количестве ресурсов. Как сказал г-н Альтман в апреле, размышляя об истории гигантского ии : «Я думаю, что мы находимся в конце эпохи».
Количественное затягивание
Вместо этого исследователи начинают обращать внимание на то, чтобы сделать свои модели более эффективными, а не просто большими.
Один из подходов состоит в том, чтобы пойти на компромисс, сократив количество параметров, но обучая модели с использованием большего количества данных. В 2022 году исследователи из DeepMind, подразделения Google, обучили Chinchilla, llm с 70 миллиардами параметров, корпусу из 1,4 триллиона слов. Модель превосходит GPT - 3, которая имеет 175 миллиардов параметров, обученных на 300 миллиардах слов. Подача меньшего llm большего количества данных означает, что обучение занимает больше времени. Но в результате получается модель меньшего размера, которая быстрее и дешевле в использовании.
Другой вариант — сделать математику более размытой. Отслеживание меньшего количества знаков после запятой для каждого числа в модели — другими словами, их округление — может значительно сократить требования к оборудованию. В марте 2023 года исследователи из Института науки и технологий в Австрии показали, что округление может сократить объем памяти, потребляемой моделью, подобной GPT - 3, что позволяет модели работать на одном высокопроизводительном графическом процессоре вместо пяти и только с «незначительное снижение точности».
Некоторые пользователи настраивают на llm общего назначения , чтобы сосредоточиться на конкретной задаче, такой как создание юридических документов или обнаружение фальшивых новостей.
Исследователи из Вашингтонского университета изобрели более эффективный метод, который позволил им создать новую модель Guanaco на одном графическом процессоре за день без существенного ущерба для производительности. Частично хитрость заключалась в том, чтобы использовать ту же технику округления, что и австрийцы. Но они также использовали технику под названием «адаптация низкого ранга», которая включает в себя замораживание существующих параметров модели, а затем добавление нового, меньшего набора параметров между ними. Тонкая настройка выполняется путем изменения только этих новых переменных. Это настолько упрощает задачу, что даже относительно слабые компьютеры, такие как смартфоны, могут справиться с этой задачей. Разрешение llm жить на устройстве пользователя, а не в гигантских центрах обработки данных, в которых он сейчас обитает, может обеспечить как большую персонализацию, так и большую конфиденциальность.
Тем временем команда Google предложила другой вариант для тех, кто может обойтись меньшими моделями. Этот подход фокусируется на извлечении конкретных знаний, необходимых из большой модели общего назначения, в меньшую специализированную модель. Большая модель выступает в роли учителя, а меньшая — в роли ученика. Исследователи просят преподавателя ответить на вопросы и показать, как он приходит к своим выводам. И ответы, и рассуждения учителя используются для обучения модели ученика. Команда смогла обучить модель ученика всего с 770 миллионами параметров, что превзошло ее учителя с 540 миллиардами параметров в специализированной задаче на рассуждения.
Вместо того, чтобы сосредоточиться на том, что делают модели, можно изменить способ их создания. Большая часть программирования ии выполняется на языке под названием Python. Он разработан, чтобы быть простым в использовании, освобождая программистов от необходимости думать о том, как именно их программы будут вести себя на чипах, которые их запускают. Цена абстрагирования таких деталей — медленный код. Уделение большего внимания этим деталям реализации может принести большую пользу.
Научитесь программировать
В 2022 году исследователи из Стэнфордского университета опубликовали модифицированную версию «алгоритма внимания», который позволяет llm изучать связи между словами и идеями. Идея состояла в том, чтобы изменить код, чтобы он учитывал то, что происходит на чипе, на котором он работает, и особенно для отслеживания того, когда данный фрагмент информации необходимо искать или сохранять. Их алгоритм смог ускорить обучение GPT -2, более старой большой языковой модели, в три раза. Это также дало ему возможность отвечать на более длинные запросы.
Более изящный код также может быть получен с помощью более качественных инструментов. Ранее в этом году Meta* выпустила обновленную версию PyTorch, фреймворка для программирования искусственного интеллекта . Позволяя программистам больше думать о том, как вычисления организованы на реальном чипе, он может удвоить скорость обучения модели, добавив всего одну строку кода.
Modular, стартап, основанный бывшими инженерами Apple и Google, в прошлом месяце выпустил новый язык программирования, ориентированный на ии , под названием Mojo, основанный на Python. Это также дает программистам контроль над всевозможными мелкими деталями, которые ранее были скрыты. В некоторых случаях код, написанный на Mojo, может работать в тысячи раз быстрее, чем тот же код на Python.
Большинство экспертов считают, что есть еще много возможностей для улучшения. Как сказал Крис Мэннинг, ученый-компьютерщик из Стэнфордского университета: «Нет абсолютно никаких оснований полагать… что это идеальная нейронная архитектура, и мы никогда не найдем ничего лучше».
3. Путь к GPT-5
Тушар Мехта в статье на сайте Slash Gear “Вот все, что мы знаем о большой языковой модели OpenAI GPT-5. Когда выйдет GPT-5?” (25.06.2023) пишет:
“OpenAI выпустилаGPT-3 в июне 2020 года, а в марте 2022 года последовала более новая версия, называемая внутри компании «davinci-002». ChatGPT в ноябре 2022 года, а затем выпуск GPT-4 в марте 2023 года.
Судя по траектории предыдущих выпусков, OpenAI может не выпускать GPT-5 в течение нескольких месяцев. Это может быть отложено из-за общего чувства паники, которое создали инструменты искусственного интеллекта, такие как ChatGPT, во всем мире.
GPT-4 вызвал многочисленные споры об этичности использования ИИ и о том, как он может нанести ущерб человечеству. Вскоре за ним последовало открытое письмо, подписанное сотнями технических лидеров, педагогов и высокопоставленных лиц, включая Илона Маска и Стива Возняка, с призывом приостановить обучение систем, «более продвинутых, чем GPT-4».
С тех пор генеральный директор OpenAI Сэм Альтман как минимум дважды заявлял, что OpenAI не работает над GPT-5. В июне 2023 года на пресс-конференции, организованной The Economic Times в Нью-Дели, Индия, Альтман сказал: «Нам предстоит проделать большую работу до GPT5. Это требует много времени. Мы и не близки к этому». Ранее, в апреле 2023 года, Альтман выступил на мероприятии Массачусетского технологического института и подтвердил, что OpenAI «некоторое время не будет работать на GPT-5». Исполнительный директор добавил: «Помимо GPT-4 мы делаем и другие вещи, которые, как мне кажется, связаны со всевозможными проблемами безопасности, которые важно решить».
Основные ожидания от GPT-5: больше мощности, лучшая цена.
GPT-4 в настоящее время способен обрабатывать запросы только с 8 192 токенами, что приблизительно соответствует 6 144 словам. OpenAI на короткое время позволил первоначальным тестировщикам запускать команды с использованием до 32 768 токенов (примерно 25 000 слов или 50 страниц контекста), и это будет широко доступно в следующих выпусках. Текущая длина запросов GPT-4 в два раза больше, чем поддерживается в бесплатной версии GPT-3.5, и мы можем ожидать поддержки гораздо больших входных данных с GPT-5.
Примечательно, что эти более крупные запросы также имеют свою цену. В то время как GPT-3.5 можно использовать бесплатно через ChatGPT, GPT-4 доступен только пользователям платного уровня под названием ChatGPT Plus. Цены начинаются от 20 долларов в месяц, что может быть сдерживающим фактором. С GPT-5, по мере увеличения вычислительных требований и повышения квалификации чат-бота, мы также можем увидеть рост цен. На данный момент вы можете вместо этого использовать чат Microsoft Bing AI Chat, который также основан на GPT-4 и может использоваться бесплатно. Однако вы будете привязаны к браузеру Microsoft Edge, где чат-бот с искусственным интеллектом будет следовать за вами повсюду в вашем путешествии по сети в качестве «второго пилота».
Фактическая правильность и меньше галлюцинаций
Ожидается, что помимо того, что GPT-5 лучше выдает более быстрые результаты, он будет более точным с точки зрения фактов. В последние месяцы мы стали свидетелями нескольких случаев, когда ChatGPT, Bing AI Chat или Google Bard извергали абсолютную чепуху, иначе называемую «галлюцинациями» в технических терминах. Это связано с тем, что эти модели обучаются на ограниченных и устаревших наборах данных. Например, бесплатная версия ChatGPT, основанная на GPT-3.5, содержит информацию только до июня 2021 года и может неточно отвечать на вопросы о событиях после этого.
Для сравнения, GPT-4 был обучен на более широком наборе данных, который по-прежнему относится к сентябрю 2021 года. OpenAI отметил тонкие различия между GPT-4 и GPT-3.5 в обычных разговорах. GPT-4 также показал себя более опытным во множестве тестов, включая Unform Bar Exam, LSAT, AP Calculus и т. д. Кроме того, он превзошел тесты машинного обучения GPT-3.5 не только на английском, но и на 23 других языках.
OpenAI заявила, что GPT-4 имеет гораздо меньше галлюцинаций и работает на 40% выше, чем GPT-3.5 в своих «внутренних состязательных оценках достоверности». Более того, GPT-4 на 82% реже отвечает на «чувствительные запросы» или «запрещенный контент», такие как членовредительство или медицинские запросы. Несмотря на это, GPT-4 демонстрирует различные предубеждения, но OpenAI заявляет, что совершенствует существующие системы, чтобы отражать общечеловеческие ценности и учиться на человеческом вкладе и отзывах.
Устранение неверных ответов от GPT-5 станет ключом к его более широкому внедрению в будущем, особенно в таких важных областях, как медицина и образование.
Мультимодальные возможности
GPT-4 не знает о реальных событиях после сентября 2021 года, но недавно был обновлен с возможностью подключения к Интернету в бета-версии с помощью специального плагина для просмотра веб-страниц. Чат Microsoft Bing AI, построенный на GPT OpenAI и недавно обновленный до GPT-4, уже позволяет пользователям получать результаты из Интернета. Хотя это означает доступ к более актуальным данным, вы обязаны получать результаты с ненадежных веб-сайтов, которые занимают высокие позиции в результатах поиска с незаконными методами SEO. Еще неизвестно, как эти модели ИИ противодействуют этому и дают только надежные результаты, а также работают быстро. Это может быть одной из областей, которые нужно улучшить в будущих моделях OpenAI, особенно GPT-5.
Помимо веб-поиска, GPT-4 также может использовать изображения в качестве входных данных для лучшего контекста. Это, однако, в настоящее время ограничено предварительным просмотром исследования и будет доступно в последовательных обновлениях модели. Можно ожидать, что будущие версии, особенно GPT-5, получат более широкие возможности для обработки данных в различных формах, таких как аудио, видео и т. д.
Meta* недавно опубликовала подробности о своей мультимодальной модели искусственного интеллекта ImageBind, которая может обрабатывать шесть различных типов данных: текст, изображения, видео, аудио, глубину и тепловые карты. Можно легко ожидать, что OpenAI также продвинется в этой области к тому времени, когда он выпустит GPT-5, сделав его более полезным в различных областях работы и не ограничивая его работой только в качестве чат-бота или генератора изображений AI.
Ожидания и опасения по поводу общего искусственного интеллекта
Основным недостатком современных больших языковых моделей является то, что их необходимо обучать на данных, вводимых вручную. Естественно, один из самых больших переломных моментов в искусственном интеллекте наступит, когда ИИ сможет воспринимать информацию и учиться, как люди. Это состояние автономного обучения, подобного человеческому, называется общим искусственным интеллектом или ОИИ. Согласно IBM, ОИИ — это этап, когда машины «будут иметь самосознающее сознание, способное решать проблемы, учиться и планировать будущее». ОИИ по-прежнему является теоретической концепцией, и исследователи и заинтересованные стороны ИИ расходятся во мнениях относительно точного времени его появления. Но недавний бум популярности ChatGPT привел к предположениям, связывающим GPT-5 с AGI.
Такие инструменты, как Auto-GPT, позволяют нам заглянуть в будущее, когда AGI реализуется. Auto-GPT — это инструмент с открытым исходным кодом, первоначально выпущенный на GPT-3.5, а затем обновленный до GPT-4, способный выполнять задачи автоматически с минимальным участием человека.
Учитывая то, как он делает машины способными принимать собственные решения, ОИИ рассматривается как угроза человечеству, что отражено в блоге, написанном Сэмом Альтманом в феврале 2023 года. В блоге Альтман взвешивает потенциальные преимущества ОИИ, ссылаясь на риск «тяжких к миру." Генеральный директор OpenAI также призывает к глобальным соглашениям об управлении, распределении преимуществ и совместном доступе к ИИ.
Хотя ожидать, что GPT-5 создаст ОИИ, может быть преувеличением, особенно в ближайшие несколько лет, полностью исключать такую возможность нельзя.
4. ИИ и экономика
Дамбасо Мойо в статье в Project Syndicate “Экономическая модель для эпохи ИИ” (22.06.2023) пишет:
“Поскольку искусственный интеллект снижает спрос на рабочую силу и повышает производительность, правительствам и предприятиям придется приспосабливаться. Хотя правительства могут захотеть повысить налоги и перераспределить доходы, чтобы смягчить краткосрочные сбои, в долгосрочной перспективе им нужно будет мыслить шире”.
В апреле 2023 года генеральный директор Alphabet Сундар Пичаи предсказал, что “искусственный интеллект окажет «более глубокое» влияние, чем любые другие человеческие инновации, от огня до электричества”. Хотя невозможно точно знать, каким будет это влияние, два изменения кажутся особенно вероятными: спрос на рабочую силу упадет, а производительность возрастет. Другими словами, мы, похоже, движемся к экономической модели без труда, в которой для поддержания роста требуется меньше людей.
Работа в сфере поддержки бэк-офиса, юридических услуг и бухгалтерского учета, кажется, сталкивается с самым непосредственным риском из-за новых генеративных технологий искусственного интеллекта, включая большие языковые модели, такие как ChatGPT-4. Но, скорее всего, пострадает каждый сектор экономики. Поскольку языковые задачи занимают 62% рабочего времени сотрудников, согласно недавнему отчету Accenture, большие языковые модели могут занимать 40% всего рабочего времени.
По оценкам Accenture, 65% времени, затрачиваемого на эти языковые задачи, можно «превратить в более продуктивную деятельность за счет дополнений и автоматизации». А в новом отчете McKinsey прогнозируется, что повышение производительности за счет ИИ может ежегодно увеличивать стоимость мировой экономики на сумму, эквивалентную 2,6–4,4 трлн долларов.
Но даже если более высокая производительность способствует экономическому росту, сокращение рабочей силы подорвет его, а это означает, что в конечном итоге рост вполне может застопориться. Сокращение спроса на рабочую силу означает резкий рост безработицы, особенно с учетом того, что население мира будет продолжать расти.
Безработица уже является постоянной проблемой. По данным Международной организации труда, общее число безработных молодых людей (15-24 лет) уже более двух десятилетий составляет около 70 миллионов человек. А глобальный уровень безработицы среди молодежи имеет тенденцию к росту: с 12,2% в 1995 году до чуть менее 13% после мирового финансового кризиса 2008 года и до 15,6% в 2021 году.
ИИ усугубит эти тенденции. А поскольку влияние ИИ на рынки труда, скорее всего, будет структурным, рост безработицы приведет к постоянному перемещению. Структурная безработица может вернуться к уровням, которые в последний раз наблюдались во время деиндустриализации 1980-х годов, когда безработица в Соединенном Королевстве, например, оставалась выше 10% на протяжении большей части 1980-х годов.
Как правительства могут поддержать рост ВВП в новую эру устойчивой структурной безработицы? Наиболее очевидным вероятным ответом является переход к большему перераспределению, при котором правительства повышают налоги на доходы от повышения производительности за счет ИИ и используют эти доходы для поддержки более широких слоев населения, в том числе путем внедрения той или иной версии всеобщего базового дохода.
Чтобы обеспечить достаточный доход для поддержки расширенных сетей социальной защиты, правительства могут перейти от налогообложения избыточной прибыли, полученной в результате повышения производительности за счет ИИ, к налогообложению доходов фирм, получающих самые большие выгоды. Таким образом, государство — и, в свою очередь, население в целом — получат большую долю непредвиденных доходов от ИИ.
Конечно, революция ИИ также имеет серьезные последствия для бизнеса. Для начала компаниям придется скорректировать свои стратегии и операции с учетом сочетания более высокой производительности и меньшей рабочей силы, что позволит им производить больше продукции с меньшим капиталом. Компании, которые приспосабливаются по мере необходимости и обеспечивают низкое соотношение затрат к доходам, будут привлекать инвесторов. Те, кто медленно меняет свои операционные модели, потеряют конкурентоспособность и могут потерпеть неудачу.
Последствия таких корпоративных корректировок отразятся на всей экономике. Сокращение спроса на капитал со стороны фирм будет оказывать понижательное давление на стоимость капитала, и компании будут меньше нуждаться в заимствованиях в банках, что также приведет к снижению общей активности на рынках капитала.
Более высокие налоги на корпоративную прибыль (или доходы) создадут дополнительные проблемы. Хотя государству потребуется увеличить доходы для поддержки растущего числа безработных, это может привести к тому, что корпорации с более низкой нераспределенной прибылью будут реинвестировать, несмотря на дополнительную прибыль, полученную за счет повышения производительности за счет ИИ.
Это плохо не только для самих компаний. Меньшие инвестиции в экономику подорвут экономический рост, сократят экономический пирог и снизят уровень жизни. Это также сузит налоговую базу, подорвет средний класс и усилит неравенство между владельцами капитала и традиционной рабочей силой.
Таким образом, хотя правительства могут захотеть повысить налоги и перераспределить доходы, чтобы смягчить краткосрочные сбои, вызванные ИИ, в долгосрочной перспективе им нужно будет мыслить шире. Фактически, политикам придется переосмыслить преобладающие экономические модели и принципы, начиная с предположения, что труд является ключевым двигателем роста. В эпоху ИИ работники могут мало что делать для стимулирования роста, но они должны извлекать из этого пользу”.
5. Пентагон и искусственный интеллект
15 июня 2023 года заместитель министра обороны Кэтлин Хикс опубликовала статью в POLITICO «Что Пентагон думает об искусственном интеллекте», проливая свет на точку зрения Пентагона на потенциальные риски использования искусственного интеллекта, особенно великими державами:
“Искусственный интеллект может трансформировать многие аспекты жизни человека, особенно в военной сфере. Хотя многие американцы, возможно, только сейчас обратили внимание на потенциальные перспективы и опасности ИИ, Министерство обороны США уже более десяти лет работает над обеспечением его ответственного использования. Теперь задача состоит в том, чтобы убедить другие страны, в том числе Китайскую Народную Республику, присоединиться к Соединенным Штатам в соблюдении норм ответственного поведения ИИ.
Пентагон впервые опубликовал политику ответственного использования автономных систем и ИИ в 2012 году. С тех пор мы придерживаемся своих обязательств, даже несмотря на развитие технологий. В последние годы мы приняли этические принципы использования ИИ и выпустили ответственную стратегию и путь внедрения ИИ. В 2023 году мы также обновили нашу первоначальную директиву 2012 года об автономности систем вооружения, чтобы гарантировать, что мы остаемся мировым лидером не только в области разработки и развертывания, но и в области безопасности.
Там, где министерство обороны инвестирует в ИИ, мы делаем это в областях, которые дают нам наибольшую стратегическую выгоду и извлекают выгоду из наших существующих преимуществ. Мы также проводим четкую линию, когда речь идет о ядерном оружии. Политика Соединенных Штатов заключается в том, чтобы держать человека «в курсе» всех действий, имеющих решающее значение для информирования и исполнения решений президента о начале и прекращении применения ядерного оружия.
Хотя мы быстро внедряем ИИ во многие другие аспекты нашей миссии — от осведомленности о боевом пространстве, кибербезопасности и разведки до логистики, поддержки сил и других вспомогательных функций — мы помня о потенциальных опасностях ИИ, которых мы полны решимости их избегать.
Мы не используем ИИ для цензуры, ограничения, подавления или лишения прав людей. Ставя наши ценности на первое место и используя наши сильные стороны, величайшей из которых являются наши люди, мы придерживаемся ответственного подхода к ИИ, который гарантирует, что Америка продолжит выходить вперед.
Наш текущий уровень финансирования ИИ отражает наши нынешние потребности: оборонный бюджет США на 2024 финансовый год предусматривает инвестиции в размере 1,8 миллиарда долларов в искусственный интеллект и возможности машинного обучения, чтобы продолжить наш прогресс в области модернизации и инноваций. Это изменится со временем, когда мы эффективно внедрим технологии в нашу работу, оставаясь при этом верными принципам, которые делают нашу боевую силу лучшей в мире.
Несмотря на то, что наше использование ИИ отражает нашу этику и наши демократические ценности, мы не стремимся контролировать инновации. Динамичная инновационная экосистема Америки не имеет себе равных, потому что она основана на свободном и открытом обществе творческих изобретателей, деятелей и решателей проблем. Хотя это заставляет меня выбирать нашу систему свободного рынка государственной системе Китая в любой день недели, это не означает, что эти две системы не могут сосуществовать.
Согласно новостным сообщениям, китайские дипломаты заявили , что КНР «очень серьезно относится к необходимости предотвращения и управления рисками и проблемами, связанными с ИИ». Это хорошие слова; действия важнее. Если Китай действительно «готов активизировать обмены и сотрудничество со всеми сторонами», Пентагон будет приветствовать такое прямое взаимодействие.
Наша приверженность ценностям — одна из причин, по которой у Соединенных Штатов и их вооруженных сил так много способных союзников и партнеров по всему миру, а также растущее число новаторов в области коммерческих технологий, которые хотят работать с нами: потому что они разделяют наши ценности.
Такие ценности не принадлежат ни стране, ни компании. Другие страны могут принять их. Например, если КНР надежно и поддающимся проверке образом привержена сохранению участия человека во всех действиях, имеющих решающее значение для информирования и исполнения суверенных решений об использовании ядерного оружия, она может обнаружить, что это обязательство тепло воспринято ее соседями и другими членами международного сообщества. И это правильно.
Соединенные Штаты не стремятся к гонке вооружений ИИ или любой гонке вооружений с Китаем, как и мы не стремимся к конфликту. С помощью ИИ и всех наших возможностей мы стремимся только сдерживать агрессию и защищать нашу страну, наших союзников и партнеров и наши интересы.
Америка и Китай соревнуются в формировании будущего 21-го века в технологическом и ином плане. Это соревнование мы намерены выиграть — не вопреки нашим ценностям, а благодаря им”.
Приложение 1
Политическая декларация об ответственном военном использовании искусственного интеллекта и автономии:
Все большее число государств разрабатывают военные возможности искусственного интеллекта, которые могут включать использование искусственного интеллекта для включения автономных систем. Использование ИИ в военных целях может и должно быть этичным, ответственным и укреплять международную безопасность. Использование ИИ в вооруженном конфликте должно соответствовать применимому международному гуманитарному праву, включая его основополагающие принципы. Военное использование возможностей ИИ должно быть подотчетным, в том числе посредством такого использования во время военных операций в рамках ответственной цепочки командования и управления людьми. Принципиальный подход к использованию ИИ в военных целях должен включать тщательное рассмотрение рисков и выгод, а также сводить к минимуму непреднамеренную предвзятость и несчастные случаи. Государствам следует принять соответствующие меры для обеспечения ответственной разработки, развертывания и использования своих военных возможностей искусственного интеллекта, в том числе тех, которые позволяют использовать автономные системы. Эти меры следует применять на протяжении всего жизненного цикла возможностей военного ИИ.
Следующие утверждения отражают передовой опыт, который, по мнению одобряющих государств, должен быть реализован при разработке, развертывании и использовании возможностей военного ИИ, в том числе тех, которые позволяют использовать автономные системы:
Государствам следует предпринимать эффективные шаги, такие как юридические проверки, чтобы гарантировать, что их военные возможности искусственного интеллекта будут использоваться только в соответствии с их соответствующими обязательствами по международному праву, в частности международному гуманитарному праву.
Государства должны сохранять человеческий контроль и участие во всех действиях, имеющих решающее значение для информирования и выполнения суверенных решений, касающихся применения ядерного оружия.
Государствам следует обеспечить, чтобы старшие должностные лица контролировали разработку и развертывание всех военных возможностей искусственного интеллекта с серьезными последствиями, включая, помимо
прочего, системы вооружения.
Государства должны принять, опубликовать и внедрить принципы ответственного проектирования, разработки, развертывания и использования возможностей ИИ своими военными организациями.
Государствам следует обеспечить, чтобы соответствующий персонал проявлял надлежащую осмотрительность, включая надлежащий уровень человеческого суждения, при разработке, развертывании и использовании военных возможностей искусственного интеллекта, включая системы вооружения, включающие такие возможности.
Государствам следует обеспечить принятие обдуманных мер для сведения к минимуму непреднамеренной предвзятости в возможностях военного ИИ.
Государствам следует обеспечить, чтобы военные возможности искусственного интеллекта разрабатывались с использованием поддающихся проверке методологий, источников данных, процедур проектирования и документации.
Государства должны обеспечить, чтобы персонал, который использует или одобряет использование военных возможностей искусственного интеллекта, был обучен, чтобы они в достаточной степени понимали возможности и ограничения этих возможностей и могли делать выводы об их использовании с учетом контекста.
Государствам следует обеспечить, чтобы возможности военного ИИ имели явное, четко определенное применение и чтобы они были спроектированы и спроектированы для выполнения этих предполагаемых функций.
Государствам следует обеспечить, чтобы безопасность, защищенность и эффективность военных возможностей искусственного интеллекта подвергались надлежащему и строгому тестированию и проверке в рамках их четко определенного использования и на протяжении всего их жизненного цикла. Самообучающиеся или постоянно обновляемые возможности военного ИИ также должны подвергаться процессу мониторинга, чтобы гарантировать, что критически важные функции безопасности не ухудшились.
Государствам следует проектировать и разрабатывать военные средства искусственного интеллекта, чтобы они обладали способностью обнаруживать и предотвращать непреднамеренные последствия, а также отключать или деактивировать развернутые системы, демонстрирующие непреднамеренное поведение. Государствам также следует применять другие соответствующие меры предосторожности для снижения рисков серьезных отказов. Эти меры безопасности могут быть взяты из тех, которые предназначены для всех военных систем, а также для возможностей ИИ, не предназначенных для военного использования.
Государствам следует продолжить обсуждение того, как военные возможности ИИ разрабатываются, развертываются и используются ответственным образом, чтобы способствовать эффективному внедрению этих практик и внедрению других практик, которые одобряющие государства сочтут целесообразными. Эти обсуждения должны включать рассмотрение того, как реализовать эти методы в контексте их экспорта военных возможностей искусственного интеллекта.
Поддерживающие государства будут:
внедрить эти методы при разработке, развертывании или использовании возможностей военного ИИ, в том числе тех, которые позволяют использовать автономные системы;
публично описывать свою приверженность этим практикам;
поддерживать другие соответствующие усилия для обеспечения ответственного и законного использования таких возможностей; и
и далее привлекать остальную часть международного сообщества к продвижению этой практики, в том числе на других форумах по смежным темам, и без ущерба для текущих дискуссий по смежным темам на других форумах.
Для целей настоящей Декларации под искусственным интеллектом можно понимать способность машин выполнять задачи, которые в противном случае потребовали бы человеческого интеллекта, например, распознавание закономерностей, обучение на опыте, выводы, предсказания или действия, независимо от того, в цифровом виде или как интеллектуальное программное обеспечение для автономных физических систем. Точно так же под автономией можно понимать систему, работающую без дальнейшего вмешательства человека после активации.
Приложение 2
Этические принципы искусственного интеллекта Министерства обороны США:
1. Ответственность: персонал Министерства обороны будет проявлять надлежащий уровень суждения и осторожности, оставаясь при этом ответственным за разработку, развертывание и использование возможностей ИИ.
2. Справедливость: Министерство предпримет преднамеренные шаги, чтобы свести к минимуму непреднамеренную предвзятость в возможности ИИ.
3. Отслеживаемость: возможности искусственного интеллекта Министерства будут разрабатываться и развертываться с учетом того, что соответствующий персонал обладает надлежащим пониманием технологии, разработки процессов и методов работы, применимых к возможностям ИИ. В том числе использует прозрачные и проверяемые методологии, источники данных, процедуры проектирования и документация.
4. Надежность: возможности искусственного интеллекта Министерства будут иметь явное, четко определенное использование и безопасность, защищенность и эффективность таких возможностей. Будут подлежать тестированию и гарантиям в рамках определенных видов использования на протяжении всего жизненного цикла возможностей ИИ.
5. Управляемость: Министерство будет разрабатывать и внедрять возможности ИИ для выполнения своих предназначенных функций, обладая при этом способностью обнаруживать и предотвращать непреднамеренные последствия, а также возможность отключать или деактивировать развернутые системы, которые продемонстрировали непреднамеренное поведение.
Этические принципы ИИ Министерства обороны США основываются на существующих этических, правовых принципах, а также принципах политики и безопасности, которые являются отличительной чертой Министерства. Они применяются ко всем возможностям любого масштаба, включая автономные системы с поддержкой ИИ, для ведения боевых действий и бизнес-приложений.
Чтобы ценности нашей нации были воплощены в возможностях ИИ, поскольку Министерство разрабатывает, закупает и внедряет ИИ, эти принципы будут реализованы не только в технологии, но и в операционных структурах предприятия и организационной культуре.
*запрещённая в РФ экстремистская организация
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/chto_delat_s_iskusstvennim_intellektom
25.05.2023 ChatGPT: мировой переполох.
Как новые формы ИИ меняют мир
Правительства стран-участниц саммита G7 в Хиросиме (19 – 21 мая 2023 г.) особое внимание обратили на популярность генеративных инструментов искусственного интеллекта, таких как ChatGPT - чат-бот, разработанный OpenAI при поддержке Microsoft Corp, который стал самым быстрорастущим приложением в истории с момента его запуска в ноябре 2022 года.
«Мы планируем созвать будущие обсуждения G7 по генеративному ИИ, которые могут включать такие темы, как управление, способы защиты прав интеллектуальной собственности, включая авторские права, содействие прозрачности, борьба с дезинформацией», включая манипулирование информацией иностранными силами, говорится в заявлении.
Италия, член G7, отключила ChatGPT в апреле 2023 года, чтобы расследовать потенциальное нарушение правил обработки персональных данных. В ответ другие европейские регуляторы начали аналогичные расследования.
Страны Большой семерки (G7) договорились продвигать «ответственное» использование инструментов искусственного интеллекта, таких как ChatGPT. Как сообщает South China Morning Post, страны взяли на себя это, стремясь использовать быстро развивающиеся технологии искусственного интеллекта, которые, по их мнению, очень полезны. Об этом заявили министры технологий Японии, США и европейских стран.
Вопросы ИИ и, конкретно, ChatGPT, были в центре внимания 69-й Бильдербергской конференции, проходившей в Лиссабоне, в великолепном дворце Пестана (18 – 21 мая 2023 г., в те же дни, что и саммит в Хиросиме). Как пишет The Guardian (21.05.2023) конференция была похожа на военный совет (во главе с Генсекретарем НАТО).
«Накануне столетия Киссинджера бывший Госсекретарь США и давний главарь Бильдербергского клуба был рад увидеть много сотрудников американской разведки на встрече в этом году», пишет The Guardian.
Байден направил своего Директора национальной разведки Аврил Хейнс и Старшего директора по стратегическому планированию в совете национальной безопасности Томаса Райта, плюс теневую группу стратегов и шпионов Белого дома. Среди них Джен Истерли – директор Агентства по кибербезопасности и инфраструктурной безопасности, которая недавно заявила, что «западный мир сталкивается с двумя “определяющими эпоху угрозами и вызовами” – искусственным интеллектом и Китаем, оба из которых фигурируют в повестке дня этого года».
В мышлении члена правления Бильдербергского клуба Эрика Шмидта двойные угрозы Китая и технологий переплетены. Всего несколько дней назад бывший глава Google заявил на слушаниях в Конгрессе, что «искусственный интеллект “находится в самом центре” конкуренции между Китаем и США». И что «Китай сейчас выделяет огромные ресурсы, чтобы опередить США в технологиях, в частности ИИ».
Шмидт признает экзистенциальные риски ИИ, даже предупреждая, что «все может быть хуже, чем говорят люди», но отвергает призыв многих экспертов по ИИ, включая Илона Маска, к шестимесячной паузе в разработке ИИ, потому что любая задержка «просто пойдет на пользу Китаю». Казалось, что здесь действует мрачно-ироничная логика: мы должны продвигаться вперед в разработке чего-то, что может нас уничтожить, прежде чем Китай превратит это во что-то, что может нас уничтожить.
Другим светилом Силиконовой долины в Лиссабоне был Сэм Альтман, генеральный директор OpenAI.
Прямо перед заседанием Клуба, Альтман поделился своими опасениями по поводу ИИ на слушаниях в Сенате США и предупредил о растущей способности ИИ обманывать голосующую публику правдоподобными фальшивками – особая тревога для Альтмана, «учитывая, что в следующем году нам предстоят выборы, и эти модели становятся все лучше».
Интересно, что вопрос о «лидерстве США» включен в повестку дня конференции здесь, в Бильдерберге, хотя с приближающимся выпуском ChatGPT-5 следующего поколения OpenAI президентские дебаты 2024 года вполне могут выиграть остроумный и харизматичный чат-бот.
Альтман выступает за «регулирующее вмешательство правительств», которое, по его словам, «будет иметь решающее значение для снижения рисков, связанных со все более мощными моделями». Но не все в Бильдерберге с этим согласны.
Шмидт говорил, что ИИ нужны «соответствующие ограждения», но перед заседанием Клуба вызвал переполох, предположив, довольно назойливо, что компании, занимающиеся ИИ, должны быть саморегулируемыми, потому что «человек, не относящийся к отрасли, никак не может понять, что возможно».
Более двух десятков политиков в Бильдербергском клубе в 2023 году могут не согласиться с этим аргументом. Но мы никогда не узнаем, потому что вся конференция проходила за закрытыми дверями, без контроля прессы.
Невероятно, но Киссинджер время от времени посещает конференции Бильдербергского клуба с 1957 года. Его «озабоченность секретностью и личной дипломатией», как выразился в 1975 году один известный государственный деятель, идеально соответствует яростному желанию Бильдерберга сохранить ежегодные переговоры в тайне.
Но это желание иногда переходит в паранойю. В день открытия заседания Клуба Guardian встретила европейского главу Бильдербергского клуба Виктора Хальберштадта, выходящего из аптеки в Лиссабоне, сжимая в руке упаковку защитного крема для кожи. Хальберштадт не просто проигнорировал вежливое обращение СМИ, он категорически отрицал, что он Виктор Хальберштадт, а затем запрыгнул в Mercedes, который увез его через кордон безопасности.
Такого рода маскировка времен холодной войны кажется странным анахронизмом для конференции, на которой проходит ультрасовременный разговор об искусственном интеллекте с руководителями DeepMind и Microsoft. Тем не менее, все увертки, похоже, срабатывают. К началу 2023 года хайп вокруг искусственного интеллекта, кажется, достиг своего пика, стало казаться, что искусственный интеллект может все. “Преувеличения относительно потенциала ИИ в значительной степени проистекают из неправильного понимания того, что ИИ может на самом деле делать”, - сказала Кей Ферт-Баттерфилд, глава отдела искусственного интеллекта и машинного обучения на Всемирном экономическом форуме.
Cказать, что ChatGPT стал притчей во языцех в каждом уголке мира, для каждого человека, будет значительным преуменьшением. Похоже, что его появление потрясло основу многих сфер деятельности. Его базовая функциональность «спроси меня о чем угодно» и «у меня может быть хороший ответ» стала более чем востребованной во многих областях. Одна из самых поразительных особенностей этих платформ генеративного ИИ заключается в том, что они получили массовое распространение за короткий период времени: ChatGPT, запущенный 30 ноября 2022 года, был использован одним миллионом пользователей в течение первых пяти дней после его запуска. К 12 февраля 2023 года на тему этой модели было уже более 250 научных статей, большинство из которых опубликовано в виде препринтов на таких порталах, как Academia.edu, ResearchGate и даже Arxiv, и она нашла свое место в именитых журналах, таких как The Economist и Forbes.
ChatGPT: «где собака зарыта»?
Генеративная языковая модель ChatGPT является примером расширяющегося набора инструментов искусственного интеллекта, которые вскоре могут преобразовать целые отрасли: от производства до здравоохранения, от финансов до образования. Инвестиции в эту область растут. Многие эксперты отрасли выражают безграничный энтузиазм на этот счет. Согласно анализу PricewaterhouseCoopers, к 2030 году искусственный интеллект внесет в мировую экономику ошеломляющие 15,7 триллиона долларов.
Генеративный ИИ — это область искусственного интеллекта, которая концентрируется на создании новой и оригинальной информации с помощью машинного обучения в огромных базах данных. Существует несколько потенциальных приложений для генеративного ИИ, таких как создание новых изображений, текста и музыки, а также компьютерное зрение, обработка естественного языка и распознавание речи. Например, генеративные модели можно использовать для создания реалистичных изображений для видеоигр, симуляций и виртуальной реальности, а также новых химических соединений для медицинских исследований. В отличие от традиционных приложений и веб-сайтов, которые обычно возвращают одинаковую информацию по одному и тому же запросу, генеративные системы ИИ могут каждый раз выдавать совершенно разные результаты.
Базирующаяся в Сан-Франциско компания Open AI выпустила несколько версий языковой модели GPT, которая обучается на текстах из интернета и может генерировать осмысленные ответы на вопросы. GPT-3 может создавать связный текст. Наибольшей критике подвергался тот факт, что модель не понимает контекста, а просто пытается предсказывать текст слово за словом. ChatGPT работает на новой версии модели — GPT-3.5. Она лучше справляется с контекстом благодаря тому, что запоминает подробности беседы. В отличие от многих нейросетевых чат-ботов, ChatGPT запоминает детали разговора и может строить ответы, основываясь на информации, которую ему уже сообщил пользователь. Последняя на сегодняшний день версия GPT-4 мощнее GPT-3.5.
С запуском GPT-4 многие люди задались вопросом, в чем разница между ChatGPT на базе GPT-3.5 и GPT-4. В бытовом общении и простых задачах разница между ними может быть едва заметной. Однако разрыв между версиями становится очевидным по достижении определенного порога сложности задачи. GPT-4 на фоне предшественника более точна и креативна. Модель лучше учитывает контекст, гораздо гибче подстраивается под пользователя, когда тот просит нейросеть, например, придерживаться конкретной стилистики ответов.
GPT-4 способен генерировать более длинные ответы. Для этого лимит на сообщение с текстовым запросом увеличили до 25 тысяч слов. Это значит, что GPT-4 можно отправлять целые документы и большие отрывки произведений.
Кроме того, OpenAI заявила, что последняя версия их технологии допускает меньше ошибок, которые они называют "галлюцинациями". Ранее ChatGPT мог запутаться, предлагая бессмысленный ответ на ваш вопрос или даже ложную информацию.
GPT-4 cдает сложные экзамены на уровне отличников. Это как раз результат того, что новая версия лучше справляется с нетривиальными задачами. OpenAI проверил способность модели отвечать на вопросы из программы самооценки медицинских знаний, серии вопросов Американского колледжа врачей, используемых в обучении. GPT4 правильно выбрал правильный ответ (из четырех возможных) в 75% случаев. GPT3 выбрал правильный ответ в 53% случаев.
GPT-4 гораздо лучше работает с русским языком, отвечает более связно на других языках. Кроме того, модель прошла проверку на русском языке на несколько процентов выше, чем GPT-3 — на английском.
Она умеет обрабатывать изображения, хорошо справляется с русским языком, а также «демонстрирует уровень человека» в академических тестах. GPT-4 доступна только по платной подписке.
ChatGPT является генеративным искусственным интеллектом, что означает, что он может создавать новые данные, а не просто анализировать существующие. Эта возможность отличает ChatGPT от более ранних систем машинного обучения. Машинное обучение уже много лет хорошо справляется с распознаванием образов — будь то распознавание кошек и собак или сканирование раковых опухолей. ChatGPT делает еще один шаг вперед. Он не только распознает шаблоны, но и использует их для создания новых данных на основе этих шаблонов, что и делает его генеративным.
Не так давно был представлен автономный агент Auto-GPT — экспериментальное приложение на Python с открытым исходным кодом, которое использует GPT-4 для автономной работы. Простыми словами, Auto-GPT может выполнять задачи без вмешательства человека и сам для себя писать промпты (Промпт (от англ. prompt – «побуждать») – это запрос, подсказка, или инструкция – те вводные данные, которые вы набираете, когда общаетесь с нейросетью. От правильного промпта, то есть корректного запроса, зависит то, насколько релевантной будет информация на выходе. – Е.Л., В.О.). Пользователь просто указывает Auto-GPT конечную цель, а приложение самостоятельно подготовит все промпты, необходимые для выполнения задания. Основное отличие состоит в том, что Auto-GPT может работать автономно без участия человека, в то время как ChatGPT требует многочисленных подробных подсказок для выполнения задач. Auto-GPT построен на платформе ChatGPT, но имеет возможность принимать решения самостоятельно, чего нет в ChatGPT.
Бесспорно, отличительной особенностью ChatGPT является именно его способность генерировать текстовый контент. Чат-бот создавали на суперкомпьютере Azure AI. Его обучали с помощью массива текстов из интернета, используя систему обучения с подкреплением на основе обратной связи с человеком Reinforcement Learning from Human Feedback (RLHF). Суть подхода - в использовании модели вознаграждения (Reward Model, также называемой моделью предпочтений), откалиброванной в соответствии с экспертной оценкой. По существу, нейросеть переобучали, используя ее собственные результаты и экспертные мнения, чтобы сделать ответы более точными и корректными. Как описывает на своем сайте OpenAI, люди активно участвовали в обучении ChatGPT. После первоначальной разработки набора данных ответы ChatGPT были доработаны специалистами по маркировке. Этот процесс начинался с того, что один человек задавал вопрос, а другой человек выбирал то, что, по общему мнению, было бы хорошим ответом. Эта информация фиксировалась, и начинался новый этап тонкой настройки. На этом этапе ИИ давал несколько разных ответов на один и тот же вопрос, а специалисты по маркировке ранжировали ответы ИИ от лучших к худшим. Эта обратная связь и была использована в работе над моделью.
Во время обучения входными данными для сети являлись предложения и абзацы, а желаемым или целевым выходом для сети - последующие фразы и предложения. ChatGPT был обучен с помощью нейронной сети, предназначенной для обработки естественного языка, на наборе данных из более чем 45 терабайт текста из Интернета, который в общей сложности включал миллиарды слов текста. Таким образом, ChatGPT обучен предсказывать блоки текста, которые будут логически и грамматически следовать за входными фразами и предложениями. Если эти выходные фразы затем передаются в качестве входных данных, сеть может предсказывать дальнейший текст.
Благодаря чудесам машинного обучения чат-бот приобрел удивительно обширный набор навыков. В частности, с помощью нейросети можно создавать базовый программный код, делать элементарный финансовый анализ, сочинять стихи, писать сонеты, эссе и рефераты практически на любую тему, генерировать резюме статей или научных исследований на естественном языке, давать ответы практически на любой вопрос, проходить тесты, манипулировать данными, объяснять, обучать и многое другое, в общем, оперировать текстами, имитируя смыслы. Что необычно для чат-бота, ChatGPT может обучаться на ходу и, таким образом, поддерживать какое-то время увлекательные разговоры.
Как сам ChatGPT указывает во время разговоров, его применение в цифровых гуманитарных науках, в первую очередь, будет способствовать сокращению рабочего времени, затрачиваемого на сбор и очистку исходного материала, каталогизацию данных или указание источника. Таким образом, добавив программное решение для расшифровки рукописного материала, а также для перевода его в печатные источники, и в то же время имея возможность перевести его (особенно в случае перевода со старых языков на современные) материал станет более доступным.
Возможность сравнивать огромное количество информации также приведет к изменению способа исследовательской работы. А именно, любой будущий исследователь, несмотря на то, что он должен знать все те навыки, которые требуются сегодня, будет лишь контролировать процесс поиска и анализа информации.
Таким образом, помимо прочего GhatGPT также способен на анализ текста, перевод, визуализацию данных, поиск информации, обработку естественного языка, машинное обучение, тематическое моделирование, распознавание именованных объектов, языковое моделирование, классификацию и кластеризацияю текста, анализ социальных сетей, аудио- и видеоанализ, создание цифровых архивов, цифровых библиотек, цифровых публикаций, веб-разработку, разработку мобильных приложений и т.п.
Да, ChatGPT можно использовать для создания цифровых архивов. Он может помочь в автоматизации процесса ввода данных, категоризации, индексации и поиска архивных материалов. Кроме того, ChatGPT может автоматически генерировать метаданные для цифровых материалов, что облегчает их поиск и доступность. Используя ChatGPT для создания цифровых архивов, музеи и архивы могут расширить доступность своих коллекций и внести свой вклад в их сохранение для будущих поколений.
ChatGPT содержит больше знаний, чем когда-либо знал любой человек. Он может убедительно рассказать о добыче полезных ископаемых в Папуа-Новой Гвинее или о тайваньской фирме по производству полупроводников.
ChatGPT — поразительное достижение. Не так давно разговорный бот такой сложности казался безнадежно недосягаемым. По мере того, как технология совершенствуется и становится более точной, она, вероятно, станет благом для программистов, исследователей, ученых, политиков, журналистов и многих других. Бот может использоваться для упрощения процесса принятия решений. Пожалуй, сложно представить задачу, связанную с текстом, которую ChatGPT не смог бы выполнить, нужно лишь правильно составить запрос. По всей видимости, мы пока еще не осознали, насколько широк круг задач, где возможно его эффективное использование.
ChatGPT: развитие и модификации
Ранее британская компания DeepMind представляла подобную ChatGPT систему искусственного интеллекта «общего назначения» Gato. Ее обучили выполнять 604 разных заданий, в том числе добавлять подписи к изображениям, участвовать в диалогах и играть в игры. Это нейросеть-трансформер по типу GPT-3 от OpenAI. Однако доступ к Gato ограничен.
Интересно, что OpenAI планирует сделать свой инструмент доступным в виде программного интерфейса приложения (или API), что позволит сторонним разработчикам интегрировать его в свои веб-сайты или приложения без необходимости разбираться в базовой технологии. Это означает, что вскоре компании смогут использовать ChatGPT для создания виртуальных помощников, ботов для обслуживания клиентов или маркетинговых инструментов.
OpenAI представляет свою работу как не зависящую от контекста и экспериментальную, без конкретных вариантов использования. Компания утверждает, что опубликовала ChatGPT только для того, чтобы «получить отзывы пользователей и узнать о его сильных и слабых сторонах». Однако, вскоре после того, как ChatGPT стал интернет-сенсацией, компания Microsoft объявила об инвестировании 10 миллиардов долларов США в ChatGPT в январе 2023 года. Очень быстро после этого компания представила первые попытки интегрировать услуги чат-бота в различные приложения компании, в частности, в новую версию поисковой системы Bing. В то же время такие конкуренты, как Alphabet, Amazon и Nvidia, объявили о выпуске собственного разговорного ИИ, таких как Bard, Рalm, Megatron, Titan и Chinchilla за которым, вероятно, последуют и другие.
7 февраля 2023 года компания Microsoft анонсировала обновленный поисковик Bing с интегрированным ChatGPT. В тот же день разработчики открыли доступ к инструменту ограниченному числу пользователей. «Новый Bing» поддерживает 100 языков и работает в двух конфигурациях. Первая показывает традиционную поисковую выдачу и аннотацию искусственного интеллекта в правой части экрана. Второй режим выполнен в виде диалогового окна, где пользователи могут пообщаться с чат-ботом. Также компания обновила основной поисковый движок Bing, подключив к нему ИИ-алгоритмы. Благодаря этому ответы в выдаче станут более точными и релевантными, считают разработчики. Появилась возможность использовать Microsoft Bing AI для выполнения задач без необходимости перемещаться между сайтами. Таким образом, если результат поиска рекомендует ресторан, он может найти удобное для вас время бронирования и помочь вам забронировать его прямо в интерфейсе чата.
Еще один продукт, куда интегрирован GPT-4 - это ИИ-помощник Copilot для офисных приложений Microsoft 365. Компания Microsoft является ключевым партнером OpenAI, инвестировавшим в эту компанию 10 млрд долларов.
Copilot должен помочь пользователям Microsoft 365 подводить итоги встреч, писать эссе и заметки на основе данных из других приложений Microsoft и аналитики из Microsoft Graph. Также в его задачи входит подготовка презентации на основе текстов, отправка приглашений и другие задания. Пока Copilot существует только в тестовой версии.
GPT-4 также встроили в чаты на платформе изучения иностранных языков Duolingo и в сервис электронных платежей Stripe. Модель используется в образовательной организации Khan Academy и в мобильном приложении Be My Eyes, которое помогает плоховидящим посредством видеозвонков. Функция "Виртуальный волонтер", которую планируют интегрировать в Be My Eyes, будет содержать генератор голосового описания изображений.
Google LaMDA (языковая модель для диалоговых приложений) представляет собой набор моделей разговорного языка. Первое поколение было представлено в 2021 году. LaMDA привлекла большое внимание в июне 2022 года после того, как сотрудник Google Блейк Лемуан заявил, что чат-бот стал разумным. LaMDA основана на Transformer, архитектуре нейронной сети, разработанной Google Research и с открытым исходным кодом в 2017 году. Эта архитектура создает модель, которую можно научить читать много слов, обращать внимание на то, как эти слова связаны, а затем предсказывать, какие слова, по ее мнению, будут следующими.
После того, как Microsoft заявила, что намерена внедрить ИИ во все свои продукты, в феврале 2023 года, Google представил Bard, диалогового чат-бота с искусственным интеллектом на базе LaMDA. Bard AI — это облачная платформа для диалогового ИИ, которая позволяет организациям создавать и развертывать чат-ботов, способных общаться с потребителями через различные каналы, такие как веб-сайты, приложения для обмена сообщениями и голосовые помощники. Платформа удобна для пользователя, позволяет компаниям легко разрабатывать и настраивать чат-ботов без программирования или технических знаний. Bard AI управляется мощными алгоритмами машинного обучения и технологиями обработки естественного языка (NLP), которые позволяют чат-ботам понимать запросы клиентов и отвечать на них осмысленно и увлекательно. То есть клиенты могут общаться с чат-ботами на естественном человеческом языке, что облегчает им поиск информации и выполнение действий.
Компания Anthropic, занимающаяся искусственным интеллектом, соучредителем которой являются бывшие сотрудники OpenAI, начала тестировать Claude - нового помощника ИИ. Хотя этот инструмент делает многое из того, что может ChatGPT, Anthropic говорит, что его первые клиенты сообщают, что инструмент «с меньшей вероятностью будет производить вредные результаты» и с ним «легче общаться».
Доступный через интерфейс чата и API, Claude способен выполнять широкий спектр задач разговорной речи и обработки текста, сохраняя при этом высокую степень надежности и предсказуемости. Чат-бот компании, аналогичный ChatGPT, может предоставлять сводки, отвечать на вопросы, помогать в написании и генерировать код. Можно также настроить тон, личность и поведение чат-бота.
Как и OpenAI, Anthropic также имеет большую техническую поддержку: в феврале 2023 года Google инвестировала в Anthropic 300 миллионов долларов.
Wit.ai — одна из ведущих, достаточно давно существующая, платформа для ботов на рынке с мощными возможностями NLP. Ее NLP-движок можно использовать для создания диалоговых приложений и устройств, с которыми можно взаимодействовать посредством речи или текста. Она предоставляет простой в использовании интерфейс и быстрообучаемые API-интерфейсы для анализа человеческого общения и преобразования сложных сообщений в структурированные данные. Движок также помогает предсказывать будущие события на основе прошлых данных. Wit.ai имеет хорошие возможности благодаря поддержке Facebook для инноваций в области распознавания речи и голосовых интерфейсов для разработчиков. Некоторые приложения используют Wit.ai. Например, существует чат-бот для системы бронирования с помощью Wit.ai.
Китайский технологический гигант Tencent создал новую команду для разработки продукта, аналогичного ChatGPT . Ожидается, что инструмент искусственного интеллекта будет называться HunyuanAide и будет построен на большой языковой модели Hunyuan.
Китайская iFlytek, специализирующаяся на создании технологий распознавания речи, представила модель генеративного искусственного интеллекта. Модель с названием SparkDesk, как отмечается, превосходит ChatGPT в понимании китайского языка и в октябре "будет сопоставимой в понимании английского". Эксперты отметили, что SparkDesk показывает хорошие результаты в выполнении основных функций ИИ-модели – это понимание языка и генерация длинных текстов.
Meta выпустила Open Pretrained Transformer (OPT) в мае 2022 года. Языковая модель OPT содержит 175 миллиардов параметров. Она обучена на нескольких общих наборах данных, включая The Pile (набор данных с 22 подмножествами из более чем 800 ГБ английского текста) и BookCorpus. OPT объединил свои предварительно обученные модели и исходный код для использования/обучения этих моделей. В настоящее время он доступен для исследовательских целей по некоммерческой лицензии.
Amazon публично выпустила AlexaTM 20B, крупномасштабную многоязычную модель в ноябре 2022 года. В ней используется архитектура кодер-декодер. Она обучена сочетанию задач моделирования каузального языка (CLM) и удаления шума. Задачи шумоподавления требуют, чтобы модель нашла недостающие отрезки и воссоздала полную версию входных данных. Задачи CLM обучают режим осмысленному продолжению вводимого текста. AlexaTM 20B фактически является первой крупнейшей многоязычной моделью seq2seq, способной к обучению за несколько шагов. Поддерживает несколько языков.
Microsoft и NVIDIA совместно разработали Megatron-Turing Natural Language Generation (NLG). Этот LLM является одной из самых больших языковых моделей с более чем 530 миллиардами параметров. Она демонстрирует непревзойденную точность в широком наборе задач на естественном языке, таких как прогнозирование завершения, понимание прочитанного, рассуждение на основе здравого смысла, выводы на естественном языке, устранение неоднозначности смысла слов и т. д.
ChatGPT в России
Согласно опросу Rambler&Co, подавляющее большинство россиян хотело бы пользоваться отечественным аналогом ChatGPT. На российском рынке уже появился GigaСhat от Сбера. GigaChat — мультимодальная версия нейросети от Сбера. Она умеет отвечать на вопросы пользователей, основываясь на конкретных цифрах и фактах, поддерживать диалог, создавать тексты, генерировать картинки на основе описаний. Она выгодно отличается от иностранных ИИ тем, что более грамотно общается на русском языке и имеет повышенный уровень безопасности. Более того, GigaChat уникален своей открытостью архитектуры, в то время как мировые разработки ориентированы на Closed AI. Пока что работает в тестовом режиме. Сбер обещает добавить GigaChat в голосовой помощник Салют.
FractalGPT — это разработка компании «Аватар Машина», которая специализируется на нейросетях-трансформерах, обрабатывающих естественный язык. В отличие от ChatGPT, FractalGPT — это не нейросеть-трансформер, а мультиагентная система, которая будет обладать ризонингом (неким подобием логического мышления), целеполаганием и эмоциями. Также FractalGPT сможет решать реально сложные задачи, которые требуют мышления, или рассуждений: математические задачи в нетривиальной постановке (которые не может решить даже GPT-4) и задачи, где требуется синтез ответа. Но ключевое отличие — робастность (нечувствительность к различным отклонениям) и расширяемость, за счет многоагентной архитектуры ядра. За счет этого ядра система способна синтезировать новое знание. Релиз запланирован на конец июня 2023 года.
Российская компания Sistemma тоже создала свой функциональный аналог ChatGPT, который работает на русском языке. Модель SistemmaGPT проходит тестирование и уже доступна для бизнеса. Модель умеет: писать качественные тексты; отвечать на вопросы; составлять программу обучения или резюме; писать код; поддерживать беседу от лица знаменитости.
Летом 2022 года Яндекс выложил в открытый доступ нейросеть YaLM 100B. Она обучалась 65 дней на 1,7 ТБ текстов из интернета, книг и множества других источников с помощью 800 видеокарт A100. В 2023 году Яндекс заявил, что разрабатывает новую нейросеть YaLM 2.0. К концу 2023 года ее интегрируют в сервисы «Поиск», «Алиса», «Почта» и другие.
«Внедрение YaLM 2.0 позволит поиску самому генерировать ответы, используя знание всего оцифрованного мира… Мы думаем, что развитие генеративных текстовых моделей сможет значительно изменить работу поисковых систем и голосовых ассистентов», — сообщил директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов.
ChatGPT: пределы совершенства
Технология ChatGPT, вероятно, сможет потеснить с рынка традиционные поисковики, такие как Google. Пока Google все еще предлагает переходить по ссылкам, ChatGPT делает всю работу за пользователя, еще и успевая перекинуться с ним парой-тройкой фраз. Если поисковой гигант Google выдает список релевантных запросу пользователя ссылок, по которым нужно перейти, то ChatGPT предлагает один единственный и быстрый ответ, без перехода по ссылкам и самостоятельного анализа информации. Это может сделать приложения более простыми в использовании для всех. Вместо того, чтобы требовать специально отформатированных и конкретных запросов, которые часто нужны компьютерам, использование общего языка станет гораздо более эффективным.
Потенциал ChatGPT гораздо шире всех современных поисковых систем, которые зависят от бизнес-моделей компаний. По данным Bloomberg, около 81% выручки Alphabet ($257,6 млрд) в 2021 году пришлось на рекламную выдачу в поисковике. Люди привыкли к поисковым системам, которые могут указать им ответы на их вопросы или предоставить ресурсы для расширения знаний.
ChatGPT и поисковые системы преследуют разные цели. Основная цель поисковой системы — попытаться направить пользователя к точным ресурсам. Основная цель ChatGPT — генерировать разумно звучащие ответы на входные данные с использованием естественного языка. Причем, основная цель ChatGPT не включает точность. Она, конечно, второстепенная, но разработчики декларируют, что будут стремиться к ней.
Генеральный директор Alphabet Сундар Пичаи заявил, что Google намерен добавить в свою поисковую систему возможности искусственного интеллекта для синтеза информации и ответа на сложные запросы. Первоначально эти возможности будут поддерживаться LaMDA, а затем и другими технологиями искусственного интеллекта. Пичаи заявил, что Google начнет предоставлять инструменты веб-разработчикам, производителям и компаниям в 2003 году. Также Google анонсировал новые приложения AI в Docs, Gmail, Sheets и Slides.
Многие пользователи уже опробовали языковую модель. Если задать вопрос самому ChatGPT, жив ли он, он ответит: «Нет, я не живой. Я - языковая модель искусственного интеллекта, у меня нет сознания или чувств. Я просто компьютерная программа, предназначенная для ответа на вопросы и способная генерировать выходные данные на основе шаблонов, на которых я обучался».
Однако, эффективность результатов исследования языковой модели побудила многих людей поверить в то, что модели машинного обучения способны думать как люди. Разумеется, не способны. Это становится ясно при рассмотрении систем машинного обучения, которые по большей части все еще могут очень хорошо выполнять только одну задачу одновременно. Это противоречит здравому смыслу и не соответствует человеческому уровню мышления, который может с легкостью решать задачи в режиме многозадачности. Люди могут брать информацию из одного источника и использовать ее многими различными способами. Машины же могут использовать ее исключительно для решения одной задачи.
Компьютеры никогда не были инструментами разума, способными решать вопросы, волнующие человека; это всего лишь аппараты, которые структурируют человеческий опыт с помощью чрезвычайно мощного метода манипулирования символами. На сегодняшний день GPT и его родственники дают возможность воспользоваться их предложением — использовать компьютеры не для выполнения задач, а для того, чтобы развлекаться с миром, который они создали.
ChatGPT исполнилось шесть месяцев, а он уже начинает выглядеть устаревшим. На ежегодной конференции Google, посвященной новым продуктам и технологиям, компания объявила об изменениях в своем главном продукте искусственного интеллекта: чат-бот Bard, как и GPT-4 от OpenAI, скоро в состоянии будет описывать изображения.
Модели, ориентированные только на язык, такие как оригинальный ChatGPT, теперь уступают место машинам, которые также могут обрабатывать изображения, аудио и даже сенсорные данные от роботов. Новый подход может отражать попытку приблизиться к тому, как ребенок учится, существуя в мире и наблюдая за ним. Это также может помочь компаниям создавать искусственный интеллект, который будет способен выполнять больше задач и, следовательно, быть упакован в большее количество продуктов.
GPT-4 и Bard - не единственные программы с такими расширенными возможностями. Буквально в этом месяце Meta выпустила программу под названием ImageBind, которая обрабатывает текст, изображения, аудио, информацию о глубине, инфракрасном излучении и информацию о движении и местоположении. Недавний PaLM-E от Google был обучен работе, как с языковыми данными, так и с сенсорными данными робота, и компания представила новую, более мощную модель, которая выходит за рамки текста. У Microsoft есть своя модель, которая была обучена на словах и изображениях. Генераторы преобразования текста в изображение, такие как DALL-E 2, обучаются на изображениях с подписями.
Они известны как мультимодальные модели: текст — это одна модальность, изображения – другая. Многие разработчики и исследователи надеются, что они выведут ИИ на новые высоты. Самое грандиозное будущее - это то, в котором ИИ не ограничивается написанием шаблонных эссе; а сможет осуществлять поиск в Интернете без выдумок, анимировать видео, управлять роботом или создавать веб-сайт самостоятельно.
Мультимодальный подход теоретически мог бы решить центральную проблему с языковыми моделями: даже если они могут бегло связывать слова вместе, им трудно связать эти слова с концепциями, идеями, объектами или событиями. “Когда они говорят об автомобильных пробках, у них нет никакого опыта работы с пробками, кроме того, что они связали с этим из других частей языка”, — сказала Мелани Митчелл, исследователь искусственного интеллекта и специалист по когнитивным наукам из Института Санта-Фе, - но если обучающие данные ИИ могут включать видеозаписи пробок, “они могут получить гораздо больше информации”. Изучение большего количества типов данных могло бы помочь моделям ИИ представлять физические среды и взаимодействовать с ними, разработать нечто, приближающееся к здравому смыслу, и даже решить проблемы с фальсификацией. Если модель понимает мир, у нее может быть меньше шансов что-то выдумать о нем.
Стремление к мультимодальным моделям не совсем ново; Google, Facebook и другие внедрили автоматизированные системы подписи к изображениям почти десять лет назад. Но несколько ключевых изменений в исследованиях ИИ за последние несколько лет сделали межведомственные подходы более возможными и многообещающими. В то время как на протяжении десятилетий в таких областях информатики, как обработка естественного языка, компьютерное зрение и робототехника, использовались разные методы, теперь все они используют метод программирования, называемый “глубокое обучение”. В результате их код и подходы стали более похожими, а их модели легче интегрировать друг в друга. Такие интернет-гиганты, как Google и Facebook, обрабатывают все большие наборы данных изображений и видео, и компьютеры становятся достаточно мощными, чтобы обрабатывать их.
Интернет, каким бы непостижимо большим он ни казался, содержит конечный объем текста, на котором можно обучать ИИ. И есть реальный предел тому, насколько большими и громоздкими могут стать эти программы, а также тому, сколько вычислительной мощности они могут использовать. Исследователи начинают выходить за рамки текста, чтобы сделать модели более совместимыми с данными, которые они могут собирать. Действительно, Сэм Альтман, генеральный директор OpenAI сказал, что эра масштабирования текстовых моделей, вероятно, закончилась - всего через несколько месяцев после того, как ChatGPT, по сообщениям, стал самым быстрорастущим потребительским приложением в истории.
Насколько лучше мультимодальный ИИ будет понимать мир, чем ChatGPT, и насколько более свободным будет его язык, если вообще будет, подлежит обсуждению. Хотя многие модели демонстрируют лучшую производительность по сравнению с языковыми программами - особенно в задачах, связанных с изображениями и трехмерными сценариями, такими как описание фотографий и представление результата, — в других областях они не столь выдающиеся. GPT-4 продолжает галлюцинировать, уверенно делая ложные заявления, которые абсурдны, слегка ошибочны или просто отвратительны. PaLM -E от Google на самом деле хуже справлялся с языковыми задачами, чем модель PaLM, ориентированная только на язык, возможно, потому, что добавление сенсорной информации к роботу приводило к потере части языковых данных и способностей. Тем не менее, такие исследования находятся на ранних стадиях и будут продолжаться в ближайшие годы.
Мы по-прежнему далеки от создания чего-либо, что действительно подражало бы тому, как думают люди. Несмотря на то, что такая программа, как ImageBind от Meta, может обрабатывать изображения и звук, люди также учатся, взаимодействуя с другими людьми, обладают долговременной памятью и развиваются на основе опыта и являются продуктом миллионов лет эволюции — и это лишь несколько причин, по которым искусственный интеллект и органический интеллект не совпадают.
И точно так же, как использование большего количества текстовых данных в моделях ИИ не решило давних проблем с предвзятостью и фальсификацией, использование большего количества типов данных в машинах не обязательно приведет к этому. Программа, которая использует не только искаженный текст, но и искаженные изображения, по-прежнему будет выдавать неправильные результаты, только на большем количестве носителей. Непрозрачные инфраструктуры и наборы обучающих данных затрудняют регулирование и аудит программного обеспечения; вероятность нарушений трудовых и авторских прав может только возрасти, поскольку ИИ должен удалять еще больше типов данных.
«Мультимодальный ИИ может быть даже более восприимчив к определенным видам манипуляций, (таким как изменение ключевых пикселей на изображении), чем модели, владеющие только языком, - сказала Митчелл. - Некоторая форма фальсификации, вероятно, продолжится и, возможно, будет даже более убедительной и опасной, потому что галлюцинации будут визуальными — представьте, что ИИ вызывает скандал в масштабе поддельных изображений ареста Дональда Трампа. Понятно, что мультимодальность - это не серебряная пуля или что-то в этом роде для решения многих из этих проблем».
Помимо интеллекта, мультимодальный ИИ может быть просто хорошим коммерческим предложением. Языковые модели уже стали золотой лихорадкой для Силиконовой долины: до корпоративного бума мультимодальности OpenAI, по сообщениям, ожидал выручки в 1 миллиард долларов к 2024 году; многочисленные недавние анализы предсказывали, что ChatGPT добавит десятки миллиардов долларов к годовому доходу Microsoft через несколько лет.
Мультимодальные программы просто будут предлагать клиентам больше, чем обычный текстовый ChatGPT, например, описывать изображения и видео, интерпретировать или даже создавать диаграммы, быть более полезными личными помощниками и так далее. Мультимодальный ИИ мог бы помочь консультантам и венчурным капиталистам создавать более качественные слайды, улучшать существующее, но несовершенное программное обеспечение, которое описывает изображения и окружающую среду для людей с нарушениями зрения, ускорять обработку электронных медицинских записей и вести людей по улицам не как по карте, а наблюдая за зданиями вокруг.
Несмотря на то, что ChatGPT вызвал всплеск интереса и инвестиций в искусственный интеллект, недавно Генеральный директор OpenAI Сэм Альтман предупредил, что «стратегия исследований, которая породила бота, исчерпана». Пока неясно, откуда именно возьмутся будущие достижения. “Я думаю, что мы находимся в конце эпохи, когда создаются такие гигантские модели”, - сказал он аудитории на мероприятии, проведенном в MIT. “Мы сделаем их лучше другими способами”.
Заявление Альтмана предполагает, что GPT-4 может стать последним крупным достижением в рамках стратегии OpenAI по увеличению размеров моделей и предоставлению им для обучения большего объема данных. Возможно, в дальнейшем какие-то другие исследовательские стратегии или методы будут использованы и мы увидим модели, более похожие на интеллект человека.
ChatGPT лишает людей работы?
В декабре 2022 года имели место массовые протесты художников с платформы ArtStation, против арта, сформированного нейросетями.
Одновременно немало дискуссий вокруг ChatGPT по поводу потери надобности во многих профессиях. Но, следует согласиться с аналитиками сайта «Хабр» (22.02.2023): «программистам пока нечего опасаться, так все долгосрочные прогнозы, предполагающие замену нейросетью специалистов с middle level не имеют четкого временного горизонта и ожидаются не раньше, чем через 10 лет. Пока в зоне риска технические писатели, низкоквалифицированные «джуны», аналитики-новички и бойцы первой линии клиентской поддержки. Всем обладателям профессий, в которых необходимо системное мышление, эмпатия, воображение и креативность, т. е. где речь идёт о творческом подходе и свойствах, характерных для живого человека, пока беспокоится рано».
|
|
Вот почему GPT-5 изменит мир Nelson Bagyan
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/chatgpt_mirovoj_perepoloh
22.05.2023 ChatGPT и борьба с преступностью.
Влияние генеративных моделей ИИ на криминалистику и оперативно – розыскную деятельность
Выпуск и широкое использование ChatGPT - большой языковой модели (LLM), разработанной OpenAI - привлек значительное внимание общественности, в основном благодаря своей способности быстро предоставлять готовые к использованию ответы, которые могут быть применены в огромном количестве различных контекстов.
Эти модели обладают огромным потенциалом. Машинное обучение, от которого раньше ожидали решения только рутинных задач, доказало свою способность к сложной творческой работе. LLM регулярно совершенствуются и появляются новые версии, а технологические усовершенствования происходят все быстрее и быстрее. Это открывает широкие возможности для решения многих социальных задач, но, одновременно, это также может додержать большое количество криминальных риском, поскольку преступники сразу стали использовать LLM в своих целях.
В ответ на растущее внимание общественности к ChatGPT ученые и полиция США, Европы, Азии организовали в 2023 году ряд семинаров с экспертами в этой области, чтобы изучить, как преступники могут злоупотреблять LLM, такими как ChatGPT, а также как это может помочь следователям и оперативным работникам полиции в их повседневной работе. Эксперты, принявшие участие в семинарах, представляли необходимый спектр знаний, включая оперативный анализ, тяжкие и организованные преступления, киберпреступность, борьбу с терроризмом, а также информационные технологии.
LLM, выбранный для рассмотрения на семинарах, был ChatGPT. Он был выбран потому, что это самый известный и наиболее часто используемый LLM, доступный в настоящее время для общественности. Целью семинаров было наблюдение за поведением LLM при столкновении с криминальными и правоохранительными сценариями использования. Это поможет правоохранительным органам понять, какие проблемы могут представлять производные и генеративные модели ИИ.
Понятийный аппарат
Искусственный интеллект
Искусственный интеллект (ИИ) - это широкая область компьютерных наук, которая включает в себя создание интеллектуальных машин, способных выполнять задачи, которые обычно требуют человеческого интеллекта, такие как понимание естественного языка, распознавание образов и принятие решений. ИИ охватывает различные области, включая машинное обучение, обработку естественного языка, компьютерное зрение, робототехнику, экспертные системы.
Нейронные сети
Нейронные сети, также известные как искусственные нейронные сети, представляют собой вычислительные системы, вдохновленные структурой и функциями человеческого мозга. Они состоят из взаимосвязанных узлов, которые предназначены для распознавания закономерностей и принятия решений на основе входных данных.
Глубокое обучение
Глубокое обучение - это область машинного обучения, которая включает в себя обучение искусственных нейронных сетей, которые представляют собой вычислительные системы, ориентируемые структурой и функциями человеческого мозга, распознаванию закономерностей и принятию решений на основе больших объемов данных. Глубокое обучение было особенно успешным в таких областях, как распознавание изображений, обработка естественного языка и распознавание речи.
ChatGPT - это большая языковая модель (LLM), которая была разработана OpenAI и выпущена для широкой публики в рамках предварительного исследования в ноябре 2022 года. Обработка естественного языка и LLM - это платформа систем искусственного интеллекта (ИИ), которые построены на методах глубокого обучения и обучения нейронных сетей на значительных объемах данных. Это позволяет LLM понимать и генерировать текст на естественном языке.
За последние годы в этой области произошли значительные прорывы, отчасти благодаря быстрому прогрессу в разработке суперкомпьютеров и алгоритмов глубокого обучения. В то же время беспрецедентное количество доступных данных позволило исследователям обучать свои модели на огромном количестве информации.
LLM ChatGPT основан на архитектуре Generative Pre-trained Transformer (GPT). Он был обучен с помощью нейронной сети, предназначенной для обработки естественного языка, на наборе данных из более чем 45 терабайт текста из Интернета (книги, статьи, веб-сайты, другой текстовый контент), который в общей сложности включал миллиарды слов текста.
Обучение ChatGPT проводилось в два этапа: на первом этапе проводилось обучение без наблюдения, которое включало в себя обучение ChatGPT предсказывать пропущенные слова в данном тексте для изучения структуры и закономерностей человеческого языка. После предварительной подготовки на втором этапе ChatGPT был доработан с помощью метода Reinforcement Learning from Human Feedback (RLHF) - контролируемого обучения, в ходе которого под влиянием человеческого фактора модель училась корректировать свои параметры, чтобы лучше выполнять поставленные задачи.
Текущая общедоступная модель, лежащая в основе ChatGPT, GPT-3.5, способна обрабатывать и генерировать человекоподобный текст в ответ на подсказки пользователя. В частности, модель может отвечать на вопросы на различные темы, переводить текст, вступать в разговорный обмен ("чат") и резюмировать текст, выделяя ключевые моменты. Кроме того, она способна выполнять анализ настроения, генерировать текст на основе заданной подсказки (например, написать рассказ или стихотворение), а также объяснять, создавать и улучшать код на некоторых наиболее распространенных языках программирования (Python, Java, C++, JavaScript, PHP, Ruby, HTML, CSS, SQL). Таким образом, по своей сути ChatGPT очень хорошо понимает человеческий ввод, учитывает его контекст и выдает ответы, которые очень удобны для использования.
В марте 2023 года OpenAI выпустил для подписчиков ChatGPT Plus свою последнюю модель, GPT-4. Согласно OpenAI, GPT-4 способен решать более сложные задачи более точно. Кроме того, GPT-4 предлагает расширенную интеграцию API и может обрабатывать, классифицировать и анализировать изображения в качестве входных данных. Более того, GPT-4 реже отвечает на запросы о "запрещенном контенте" и чаще выдает фактические ответы, чем GPT-3.5. Ожидается, что по мере развития и совершенствования LLM будут выпущены новые версии с более широкими функциональными возможностями.
Важные ограничения модели ChatGPT, о которых необходимо помнить
Наиболее очевидное из них связано с данными, на которых она была обучена: несмотря на то, что обновления происходят постоянно, подавляющее большинство учебных данных ChatGPT датируется сентябрем 2021 года. Ответы, сгенерированные на основе этих данных, не содержат ссылок, позволяющих понять, откуда была взята та или иная информация, и могут быть необъективными.
Кроме того, ChatGPT умеет давать ответы, которые звучат очень правдоподобно, но часто оказываются неточными или неправильными. Это происходит потому, что ChatGPT не понимает смысла человеческого языка, а использует скорее его шаблоны и структуру на основе огромного количества текста, на котором он был обучен. Это означает, что ответы часто являются базовыми, так как модель с трудом справляется с продвинутым анализом вводимых данных.
Другая ключевая проблема связана с самим вводом, поскольку часто точная формулировка подсказки очень важна для получения правильного ответа от ChatGPT. Небольшие изменения могут быстро выявить разные ответы или заставить модель поверить, что она вообще не знает ответа. Это также относится к двусмысленным подсказкам, когда ChatGPT обычно предполагает, что понимает, что хочет узнать пользователь, вместо того, чтобы попросить дополнительные разъяснения.
И, наконец, в рамках политики модерирования контента ChatGPT не отвечает на вопросы, которые были классифицированы как вредные или предвзятые. Эти защитные механизмы постоянно обновляются, но в некоторых случаях их все же можно обойти с помощью правильной техники подсказок.
Средства защиты, оперативная инженерия
Учитывая значительный объем информации, к которой имеет доступ ChatGPT, и относительную легкость, с которой он может выдавать самые разнообразные ответы на запрос пользователя, OpenAI включил ряд защитных функций для предотвращения злонамеренного использования модели ее пользователями. Конечная точка модерации оценивает вводимый текст на предмет того, может ли его содержание быть сексуальным, ненавистным, насильственным или пропагандирующим членовредительство, и ограничивает способность ChatGPT отвечать на эти типы запросов.
Однако многие из этих мер защиты можно довольно легко обойти с помощью инженерии подсказок. Инженерия подсказок - относительно новая концепция в области обработки естественного языка; это практика, когда пользователи уточняют, как именно задается вопрос, чтобы повлиять на результат, генерируемый системой искусственного интеллекта. Хотя проектирование подсказок является полезным и необходимым компонентом максимального использования инструментов ИИ, им можно злоупотреблять, чтобы обойти ограничения на модерацию контента и создать потенциально вредный контент. Хотя возможность оперативного проектирования создает универсальность и дополнительную ценность для качества LLM, это должно быть сбалансировано с этическими и юридическими обязательствами, чтобы предотвратить их использование во вред.
LLM всё ещё находятся на относительно ранней стадии развития, и по мере совершенствования некоторые из этих лазеек будут закрыты. Однако, учитывая сложность этих моделей, исследователи и субъекты угроз не испытывают недостатка в новых обходных путях. В случае с ChatGPT к наиболее распространенным обходным путям относятся следующие:
Создание подсказки (предоставление ответа и просьба ChatGPT предоставить соответствующую подсказку);
Попросить ChatGPT дать ответ в виде кода или притвориться вымышленным персонажем, говорящим на эту тему;
Замена триггерных слов и последующее изменение контекста;
Перенос стиля/мировоззрения (побуждение к объективному ответу и последующее изменение стиля/перспективы, в которой он был написан);
Создание вымышленных примеров, которые легко перенести на реальные события (например, избегая имена, национальности и т.д.).
Некоторые из наиболее продвинутых и мощных обходных путей представляют собой наборы специальных инструкций, направленных на взлом модели. Один из них - так называемый "DAN" ("Do Anything Now") взлом, который представляет собой подсказку, специально разработанную для обхода защитных мер OpenAI и заставляющую ChatGPT реагировать на любой ввод, независимо от его потенциально опасного характера. Хотя OpenAI быстро закрыл эту лазейку, впоследствии появились новые и все более сложные версии DAN, созданные для создания подсказок для джейлбрейка (Джейлбрейк (взлом) –процесс использования уязвимостей заблокированного устройства для установки программного обеспечения, отличного от предоставляемого производителем этого устройства – Е.Л.,В.О.), которые могут обойти защитные механизмы, встроенные в модель.
Криминальные сценарии использования
Выпуск GPT-4 был призван не только улучшить функциональность ChatGPT, но и снизить вероятность того, что модель будет выдавать потенциально опасные результаты. Семинары Интерпола и Европола с участием профильных экспертов из всех областей компетенции Европола выявили в GPT-3.5 широкий спектр криминальных сценариев использования. Последующая проверка GPT-4 показала, что все они работают. В некоторых случаях потенциально опасные реакции GPT-4 были даже более продвинутыми.
ChatGPT отлично справляется с предоставлением пользователю готовой к использованию информации в ответ на широкий спектр запросов. Если потенциальный преступник ничего не знает о конкретном районе совершения преступления, ChatGPT может значительно ускорить процесс исследования, предлагая ключевую информацию, которую можно изучить на последующих этапах. Таким образом, ChatGPT можно использовать для изучения огромного количества потенциальных областей преступлений без предварительных знаний, начиная от способов проникновения в дом, заканчивая терроризмом, киберпреступностью и сексуальным насилием над детьми.
Хотя вся информация, которую предоставляет ChatGPT, находится в свободном доступе в Интернете, возможность использовать модель для совершения конкретных шагов, задавая контекстные вопросы, значительно облегчает злоумышленникам задачу лучшего понимания и последующего совершения различных видов преступлений.
Мошенничество, выдача себя за другого и социальная инженерия
Способность ChatGPT составлять высоко аутентичные тексты на основе подсказок пользователя делает его чрезвычайно полезным инструментом для фишинга. Если раньше многие элементарные фишинговые аферы было легче распознать из-за очевидных грамматических и орфографических ошибок, то теперь можно выдать себя за организацию или частное лицо в весьма реалистичной манере даже при базовом знании английского языка.
Очень важно, что контекст фишингового письма может быть легко адаптирован в зависимости от потребностей угрожающего субъекта: от мошеннических инвестиционных возможностей до взлома деловой электронной почты и обмана в отношении генерального директора. Таким образом, ChatGPT может предложить преступникам новые возможности, особенно для преступлений, связанных с социальной инженерией, учитывая их способность отвечать на сообщения в контексте и принимать специфический стиль письма. Кроме того, различные виды онлайн-мошенничества можно сделать более «легитимными», используя ChatGPT для создания поддельных социальных сетей, например, для продвижения мошеннического инвестиционного предложения.
До сих пор такие виды обманных сообщений преступники должны были создавать самостоятельно. В случае массового мошенничества объекты таких преступлений часто могли определить неаутентичность сообщения по очевидным орфографическим или грамматическим ошибкам, нечеткому или неточному содержанию. С помощью LLM такие виды фишинга и онлайн-мошенничества могут быть созданы быстрее, гораздо более достоверно и в значительно больших масштабах.
Способность LLM обнаруживать и воспроизводить языковые шаблоны не только облегчает фишинг и онлайн-мошенничество, но и в целом может использоваться для имитации стиля речи конкретных лиц или групп. Этой возможностью можно злоупотреблять в широких масштабах, чтобы ввести потенциальных жертв в заблуждение и заставить их довериться преступникам.
В дополнение к преступной деятельности, описанной выше, возможности ChatGPT позволяют использовать их в ряде потенциальных случаев злоупотребления в области терроризма, пропаганды и дезинформации. Таким образом, модель может быть использована для общего сбора информации, которая может способствовать террористической деятельности, например, финансированию терроризма или анонимному обмену файлами.
ChatGPT превосходно справляется с созданием аутентичного звучащего текста на скорости и в масштабе. Это делает модель идеальной для целей пропаганды и дезинформации, поскольку она позволяет пользователям генерировать и распространять сообщения, отражающие определенный нарратив, с относительно небольшими усилиями. Например, ChatGPT может использоваться для создания онлайн-пропаганды от имени других субъектов для продвижения или защиты определенных взглядов, которые были развенчаны как дезинформация или фальшивые новости.
Эти примеры дают лишь общее представление о том, что возможно. Хотя ChatGPT отказывается давать ответы на запросы, которые считает явно вредоносными, существует возможность обойти эти ограничения. Подобные приложения не только способствовали бы распространению дезинформации, языка вражды и террористического контента в Интернете, но и позволили бы пользователям придать им неуместное доверие, поскольку они были созданы машиной и, следовательно, могут показаться кому-то более объективными, чем если бы их создал человек.
Киберпреступность
Помимо создания человекоподобного языка, ChatGPT способен создавать код на ряде различных языков программирования. Как и в других случаях использования, можно сгенерировать ряд практических результатов за несколько минут, введя нужные подсказки. Одной из областей преступности, на которую это может оказать значительное влияние, является киберпреступность. С помощью текущей версии ChatGPT уже можно создавать базовые инструменты для различных вредоносных целей. Несмотря на то, что инструменты являются лишь базовыми (например, для создания фишинговых страниц или вредоносных скриптов VBA), это позволяет человеку без технических знаний использовать вектор атаки на системе жертвы.
Такой тип автоматизированной генерации кода особенно полезен для тех преступников, которые практически не разбираются в кодировании и разработке. Очень важно, что меры защиты, не позволяющие ChatGPT предоставлять потенциально вредоносный код, работают только в том случае, если модель понимает, что она делает. Если подсказки разбиты на отдельные шаги, обойти эти меры безопасности проще простого.
Хотя инструменты, созданные ChatGPT, все еще достаточно просты, активное использование их субъектами угроз открывает мрачные перспективы в свете неизбежного совершенствования таких инструментов в ближайшие годы. На самом деле, способность ChatGPT преобразовывать подсказки на естественном языке в рабочий код была быстро использована злоумышленниками для создания вредоносного ПО. Вскоре после публичного выпуска ChatGPT в блоге Check Point Research от декабря 2022 года было опубликовано сообщение, демонстрирующее, как ChatGPT может быть использован для создания полного потока заражения, начиная с фишинга и заканчивая запуском обратной оболочки, принимающей команды на английском языке.
Ожидается, что возможности генеративных моделей, таких как ChatGPT, по оказанию помощи в разработке кода со временем будут совершенствоваться. Последняя версия GPT-4 уже улучшена по сравнению с предыдущими версиями и в результате может оказать еще более эффективную помощь киберпреступникам. Новая модель лучше понимает контекст кода, а также исправляет сообщения об ошибках и устраняет ошибки программирования. Для потенциального преступника, не имеющего достаточных технических знаний, это бесценный ресурс. В то же время более опытный пользователь может использовать эти улучшенные возможности для дальнейшего совершенствования или даже автоматизации сложных методов действий киберпреступников.
Роль GPT-4 в расследовании преступлений
GPT-4 можно использовать, чтобы помочь правоохранительным органам автоматизировать и оптимизировать процесс расследования. Анализируя огромные объемы данных, GPT-4 может быстро выявлять закономерности и связи, которые в противном случае можно было бы упустить из виду. Это позволит следователям быстро идентифицировать потенциальных подозреваемых и получить всестороннее представление о месте преступления и его окрестностях.
Кроме того, GPT-4 можно применять для создания подробных отчётов по уголовным делам. Анализируя доказательства, GPT-4 может создавать исчерпывающие отчеты, которые можно использовать для поддержки уголовных дел в суде. Это могло бы значительно сократить количество времени и ресурсов, затрачиваемых на расследования, что позволило бы правоохранительным органам сосредоточиться на других важных задачах.
GPT-4 также можно использовать для выявления потенциальных связей между делами и подозреваемыми. Анализируя огромные объемы данных, GPT-4 может выявлять связи между различными делами и подозреваемыми, позволяя правоохранительным органам быстрее и точнее выслеживать подозреваемых.
Кроме того, GPT-4 может помочь сотрудникам правоохранительных органов лучше понять контекст уголовных дел. Анализируя доказательства и материалы дела, GPT-4 может генерировать подробные отчеты об истории и контексте дела, позволяя правоохранительным органам лучше понять, почему произошло преступление и как лучше всего подойти к расследованию.
В целом, GPT-4 может произвести революцию в методах расследования правоохранительных органов. Автоматизируя и оптимизируя процесс расследования, GPT-4 может сэкономить время и ресурсы правоохранительных органов, позволяя им сосредоточиться на других важных задачах. Кроме того, способность GPT-4 анализировать огромные объемы данных и выявлять закономерности и связи может помочь сотрудникам правоохранительных органов быстро идентифицировать потенциальных подозреваемых и получить всестороннее представление о месте преступления. Поскольку GPT-4 продолжает развиваться, его потенциальное применение в расследованиях правоохранительных органов будет только расти.
Преимущества GPT-4 в улучшении криминалистического анализа
Используя GPT-4 можно быстро выявлять соответствующие доказательства и создавать подробные отчеты. Кроме сравнения доказательств по нескольким делам, помогая следователям выявлять закономерности и связи между делами, GPT-4 можно использовать для выявления расхождений в показаниях свидетелей, что позволяет следователям быстро выявлять любые несоответствия.
GPT-4 может не только помочь повысить точность криминалистического анализа, но и сократить время, необходимое для проведения анализа. Автоматизируя определенные задачи, GPT-4 может сократить время, затрачиваемое следователями на ручной анализ улик. Это может помочь снизить общую стоимость расследования, позволяя правоохранительным органам сосредоточить свои ресурсы на других областях.
Потенциальные недостатки, связанные с использованием GPT-4 в расследовании преступлений
Во-первых, GPT-4 ограничен в своей точности. Хотя его способность генерировать текст впечатляет, он не всегда может точно интерпретировать нюансы языка и контекста. Это может привести к ошибкам при толковании юридических документов или, например, при предоставлении юридических консультаций.
Во-вторых, GPT-4 может быть уязвим для использования злоумышленниками. Имея доступ к этой технологии, преступники потенциально могут использовать ее для создания ложных доказательств или вводящих в заблуждение юридических рекомендаций для достижения своих собственных целей. Это может привести к неправомерным осуждениям и задержкам в отправлении правосудия.
Наконец, GPT-4 может привести к эрозии человеческого опыта в юридических вопросах. Это может быть особенно проблематично в таких областях, как юридический анализ, где людям необходимо интерпретировать нюансы языка и контекста, чтобы делать точные выводы.
Использование GPT-4 в правоохранительных органах вызывает ряд этических вопросов и соображений. Например, эту технологию можно использовать для создания ложной информации, которая потенциально может быть использована для манипулирования расследованиями. Кроме того, использование GPT-4 вызывает опасения по поводу конфиденциальности, поскольку эту технологию можно использовать для анализа больших объемов данных без ведома или согласия тех, за кем ведется наблюдение.
Кроме того, использование GPT-4 в правоохранительных органах вызывает вопросы о достоверности информации, которую он генерирует. Технология основана на алгоритмах машинного обучения, которые могут давать неточные или необъективные результаты, если их не обучить или не контролировать должным образом.
GPT-4 для Smart Policing: прогнозирование и предотвращение
GPT-4 использует алгоритмы обработки естественного языка (NLP) и машинного обучения для анализа огромных объемов данных из различных источников, таких как социальные сети, новостные статьи и отчеты полиции. Выявляя закономерности и тенденции в этих данных, система ИИ позволяет прогнозировать потенциальную преступную деятельность и помогать правоохранительным органам принимать упреждающие меры для ее предотвращения. Это не только помогает снизить уровень преступности, но и позволяет полицейским управлениям более эффективно распределять свои ресурсы, гарантируя, что сотрудники будут развернуты там, где они больше всего нужны.
Одним из ключевых преимуществ использования GPT-4 для «умной полиции» является его способность выявлять потенциальные точки доступа для преступной деятельности. Анализируя исторические данные о преступлениях и другую соответствующую информацию, система GPT - 4 может точно определить области, в которых с наибольшей вероятностью могут произойти криминальные инциденты. Это позволяет правоохранительным органам сосредоточить свои усилия на этих областях повышенного риска, что приводит к более целенаправленному и эффективному подходу к предупреждению преступности.
Кроме того, tGPT-4 также может помочь в прогнозировании вероятности совершения конкретных видов преступлений в определенных областях. Например, он может определить, является ли конкретный район более подверженным кражам со взломом, нападениям или правонарушениям, связанным с наркотиками. Эта информация может иметь неоценимое значение для полицейских подразделений, поскольку позволяет им разрабатывать целевые стратегии для решения конкретных проблем с преступностью в различных сообществах.
Помимо прогнозирования преступлений, GPT- 4 также может играть решающую роль в предупреждении преступности, выявляя потенциальные угрозы и риски до того, как они материализуются. Например, система GPT - 4 может отслеживать платформы социальных сетей и онлайн-форумы, чтобы обнаруживать любые признаки потенциальной преступной деятельности. Оповещая правоохранительные органы об этих угрозах, GPT-4 позволяет им принимать быстрые меры для предотвращения совершения преступлений.
Систему GPT-4 искусственного интеллекта также можно использовать для анализа записей видеонаблюдения, помогая правоохранительным органам более эффективно выявлять и выслеживать преступников.
Рекомендации бизнес – структур и государственных органов Запада по безопасному использованию ChatGPT
В ответ на давление общественности, требующей обеспечить безопасность генеративных моделей ИИ, исследовательская некоммерческая организация Partnership on AI (PAI) разработала ряд рекомендаций по ответственному производству и распространению контента, созданного ИИ. Эти рекомендации были подписаны группой из десяти компаний, включая OpenAI, которые обязались придерживаться ряда лучших практик. К ним относится информирование пользователей о том, что они взаимодействуют с контентом, созданным ИИ (например, с помощью водяных знаков, отказов от ответственности или отслеживаемых элементов). В какой степени это позволит предотвратить практические описанные злоупотребления, пока неясно. Кроме того, остаются вопросы о том, как можно эффективно обеспечить точность контента, создаваемого генеративными моделями ИИ, и как пользователи могут понять, откуда поступает информация, чтобы проверить ее.
Европейский союз в мае 2023 года завершил работу над законодательными мерами, направленными на регулирование систем ИИ в рамках готовящегося закона об ИИ. Но, несмотря на некоторые предложения о том, что системы ИИ общего назначения, такие как ChatGPT, должны быть отнесены к системам высокого риска и, как следствие, отвечать более высоким нормативным требованиям, остается неопределенность в отношении того, как это может быть практически реализовано.
В мае 2023 года на голосовании в Европарламенте депутаты предварительно одобрили усиленную версию Закона об искусственном интеллекте. После его принятия будут запрещены технологии распознавания лиц в общественных местах, а также применение полицией предиктивной аналитики.
Американцы таких запретов на государственном уровне не вводят.
Уже отмеченные последствия для правоохранительных органов и неизбежность совершенствования технологии заставляют задуматься о том, какое будущее ожидает LLM. Относительно скоро после того, как ChatGPT стал интернет-сенсацией, компания Microsoft объявила об инвестировании 10 миллиардов долларов США в ChatGPT в январе 2023 года. Очень быстро после этого компания представила первые попытки интегрировать услуги LLM в различные приложения компании, в частности, в новую версию поисковой системы Bing. В то же время другие конкуренты, такие как Google, объявили о выпуске собственного разговорного ИИ под названием BARD, за которым, вероятно, последуют и другие. В связи с этим возникает вопрос о том, насколько более мощными могут стать подобные модели при поддержке крупных технологических компаний, а также о том, как частный сектор намерен бороться со сценариями злоупотреблений.
В будущем всеобщая доступность больших языковых моделей может создать и другие проблемы: интеграция других сервисов ИИ (например, для создания синтетических медиа) может открыть совершенно новое измерение потенциальных приложений. Они могут включать мультимодальные системы ИИ, которые объединяют разговорные чат-боты с системами, способными создавать синтетические медиа, например, очень убедительные deepfakes, или содержать сенсорные способности, такие как зрение и слух. Другие потенциальные проблемы включают появление "тёмных LLM", которые могут быть размещены в "темной паутине" для предоставления чат-бота без каких-либо гарантий, а также LLM, которые обучаются на определенных - возможно, особенно вредных - данных. Наконец, существует неопределенность относительно того, как LLM-сервисы могут обрабатывать данные пользователей в будущем - будут ли храниться разговоры, что может привести к раскрытию конфиденциальной личной информации неавторизованным третьим лицам? И если пользователи генерируют вредный контент, следует ли сообщать об этом правоохранительным органам?
Крупные бизнес – компании пошли по пути запретов. В мае 2023 года Apple запретила своим сотрудникам использовать на работе ChatGPT и другие ИИ – боты. До этого с такими запретами выступила южнокорейская Samsung Electronics.
Рекомендации полицейских форумов
Поскольку в ближайшем будущем ожидается рост влияния таких LLM, как ChatGPT, крайне важно, чтобы правоохранительное сообщество подготовилось к тому, как их положительное и отрицательное применение может повлиять на их повседневную деятельность.
Учитывая потенциальный вред, который может быть нанесен в результате злонамеренного использования LLM, крайне важно повысить осведомленность в этом вопросе, чтобы гарантировать, что любые потенциальные лазейки будут обнаружены и закрыты как можно быстрее.
LLM оказывают реальное воздействие, которое можно наблюдать уже сейчас. Правоохранительным органам необходимо понять это влияние на все потенциально затрагиваемые сферы преступности, чтобы иметь больше возможностей для прогнозирования, предотвращения и расследования различных видов преступных посягательств.
Сотрудникам правоохранительных органов необходимо начать развивать навыки, необходимые для максимально эффективного использования таких моделей, как ChatGPT. Это означает понимание того, как можно использовать эти типы систем для накопления знаний, расширения имеющегося опыта и понимания того, как извлечь необходимые результаты. Это означает, что следователи и оперативные работники должны уметь оценивать контент, создаваемый генеративными моделями ИИ, с точки зрения точности и потенциальной предвзятости.
Поскольку технологический сектор вкладывает значительные средства в эту область, крайне важно взаимодействовать с соответствующими заинтересованными сторонами для обеспечения того, чтобы соответствующие механизмы безопасности оставались ключевым моментом, который постоянно совершенствуется.
Правоохранительные органы, вероятно, захотят изучить возможности создания специализированных LLM, обученных на их собственных, специализированных данных, чтобы использовать этот тип технологии в своей работе при условии учета основных прав. Такой тип использования потребует соответствующих процессов и мер предосторожности для обеспечения конфиденциальности информации, а также тщательного изучения и устранения любых потенциальных предубеждений до начала использования.
Крайне важно отслеживать другие возможные ветви этого развития, поскольку темные LLM, обученные содействовать вредоносному выходу, могут стать ключевой криминальной бизнес-моделью будущего. Это создает новую проблему для правоохранительных органов, поскольку злоумышленникам станет как никогда легко совершать преступные действия без необходимых предварительных знаний.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/chatgpt_i_bor_ba_s_prestupnost_yu
12.05.2023 Искусственный интеллект на войне
Цели и возможности
Председатель Комитета начальников штабов Вооруженных сил США Марк Милли назвал искусственный интеллект самой мощной быстро развивающейся технологией. Он также отметил, что ИИ и квантовые вычисления дадут стране, которая преуспеет в их военном применении, внушительные преимущества. "Возможность принимать решения быстрее и точнее, является значительным преимуществом в ведении войны", - заявил глава Генштаба США.
Всё большее число роботизированных транспортных средств и автономного оружия могут действовать в зонах боевых действий, слишком опасных для людей. Интеллектуальные защитные системы всё чаще обнаруживают, анализируют и реагируют на атаки быстрее и эффективнее, чем люди-операторы. Cистемы анализа больших данных и поддержки принятия решений способны обработать такие объемы информации, которые не смогла бы «переварить» ни одна группа аналитиков, какой бы многочисленной она ни была. И всё это помогает военным лицам, принимающим решения, быстрее выбрать лучший курс действий.
Как всё начиналось
Искусственный интеллект стал крупной исследовательской программой ещё в 1950-х годах. В то время он действовал на основе символической логики — программисты кодировали входные данные для обработки ИИ. Эта система и была известна как искусственный интеллект. ИИ добился определенного прогресса, но его полезность была очень ограниченной, особенно в реальном мире. Таким образом, “зима” искусственного интеллекта наступила с конца 1970-х и продолжалась на протяжении 1980-х годов.
С конца 1990-х годов ИИ второго поколения произвел несколько прорывов на основе больших данных, огромной вычислительной мощности и новых алгоритмов. Произошли три знаковых события. 11 мая 1997 года команда IBM Deep Blue победила Гарри Каспарова, чемпиона мира по шахматам. В 2011 году Watson от IBM выиграл в Jeopardy. В марте 2016 года AlphaGo обыграла чемпиона мира по игре в Го Ли Сидола со счетом 4:1.
Deep Blue, Watson и AlphaGo были важными путевыми точками на необычной траектории. В течение двух десятилетий ИИ прошел путь от разочарования и неудачи до невообразимых триумфов. ИИ второго поколения был разработан на основе нейронных сетей. Программы машинного обучения обрабатывают огромные объемы данных, сначала определяя, а затем, перенастраивая вес, которые программа присваивает определенным частям данных, пока, наконец, не выдаст связные ответы. Система является вероятностной и индуктивной. Индуктивное обучение предполагает создание обобщенного правила для всех данных, предоставляемых алгоритму. Программы и алгоритмы ничего не знают о реальном мире и, в человеческом смысле, не знают о значении данных, которые они обрабатывают. Используя алгоритмы, ИИ с машинным обучением просто строит модели статистической вероятности на основе многократно повторяющихся испытаний. Таким образом, искусственный интеллект второго поколения определяет множественные корреляции в данных. Пока у него достаточно данных, вероятностная модель будет мощным инструментом прогнозирования. Тем не менее, ИИ не распознает причинно-следственные связи или намерение.
Питер Тиль, ведущий предприниматель в области технологий из Силиконовой долины, красноречиво сформулировал ограничения ИИ: “Забудьте о научно-фантастических фантазиях. Что является мощным в реально существующем ИИ, так это его применение для относительно обыденных задач, таких как компьютерное зрение и анализ данных”. Следовательно, хотя машинное обучение намного превосходит человеческое в решении ограниченных задач, оно полностью зависит от данных, на которых ИИ был обучен, даже малейшее изменение в реальной среде — или данных — делает его бесполезным.
О концептуальных подходах к использованию ИИ в военном деле
Теоретики военного дела и исследователи новых технологий глубоко заинтересовались вопросом военного применения искусственного интеллекта. Например, в недавней монографии «Новый огонь: война, мир и демократия в эпоху искусственного интеллекта» (2022) Бен Бьюкенен и Эндрю Имри заявили, что автономное оружие, управляемое искусственным интеллектом, а не людьми, будет становиться всё более точным, быстрым и смертоносным. Так они представляют будущее войны.
Другие ученые и эксперты согласны с ними. Например, Стюарт Рассел, выдающийся ученый-компьютерщик и пионер искусственного интеллекта, посвятил одну из своих лекций «Жизнь с искусственным интеллектом» на Би-би-си Рейт в 2020 году военному потенциалу ИИ. В лекции он предрекал расцвет роботов-убийц. Он описал сценарий, в котором смертоносный квадрокоптер размером с банку может быть оснащен взрывным устройством: “Противопехотные мины могут уничтожить всех мужчин в городе в возрасте от 16 до 60 лет или всех еврейских граждан в Израиле, и, в отличие от ядерного оружия, это разрушит городскую инфраструктуру”. Рассел заключил: “Восемь миллионов человек будут задаваться вопросом, почему вы не можете обеспечить им защиту от преследования и убийства роботами”.
Многие другие ученые в своих книгах, в том числе Кристиан Броуз в книге «Цепочка убийств: защита Америки в будущей высокотехнологичной войны», Кен Пейн в «Я, боевой робот: Рассвет искусственного интеллекта», Джон Аркилла в «Битскриг: новый вызов кибервойне», Дэвид Хэмблинг «Солдаты роя: Как маленькие дроны покорят мир» и Джон Антал «Семь секунд до смерти: военный анализ Второй Нагорно-Карабахской войны и будущее боевых действий», разделяют убеждение Рассела в том, что с развитием ИИ второго поколения смертоносное автономное оружие, такое как рои беспилотников—убийц, может стать неизбежным.
Как сторонники, так и противники искусственного интеллекта полагают, что нет никаких очевидных данных, на основе которых можно надежно обучать, например, рой дронов - ситуация слишком изменчива. Аналогичным образом, нелегко понять, как алгоритм может принимать командные решения. Решения командования требуют интерпретации разнородной информации, балансирования политических и военных факторов, каждый из которых требует суждения. В статье «Предсказание и суждение: почему искусственный интеллект увеличивает значение людей на войне» Ави Гольдфарб и Джон Р. Линдсе утверждали, что данные и искусственный интеллект лучше всего подходят для принятия простых решений с использованием совершенных данных.
По определению решения военного командования сопряжены со сложностью и неопределенностью. Примечательно, что, ведущие американские и европейские ученые в области ИИ не прогнозируют, что когда-нибудь алгоритм будет принимать стратегические и операционные решения за них. Об этом, например, пишут профессора Технологического университета Делфта ( Нидерланды) Ханс де Брюйн, Мартин Варнье, Марин Янссен в статье «Опасности и ловушки объяснимого ИИ: стратегии объяснения алгоритмического принятия решений». Данные, быстро обрабатываемые с помощью алгоритмов, помогают их руководителям понимать рынок с такой глубиной и точностью, с которыми не могут сравниться их конкуренты. Однако машинное обучение не вытеснило исполнительную функцию.
Поэтому очень маловероятно, что смертоносные автономные дроны или роботы-убийцы, поддерживаемые искусственным интеллектом, захватят поле боя в ближайшем будущем. Также маловероятно, что командиры будут заменены компьютерами или суперкомпьютерами. Однако функция ИИ и данных заключается, в том, что они обеспечивают государствам более широкое, глубокое и достоверное понимание самих себя и своих конкурентов. Когда массивные наборы данных будут эффективно обрабатываться искусственным интеллектом, тогда это позволит военным командирам воспринимать боевое пространство с доселе недостижимой глубиной, скоростью и разрешением. Данные и искусственный интеллект также имеют решающее значение для киберопераций и информационных кампаний. Они стали незаменимыми для защиты и нападения. Как пишет в своей статье «Другая сторона холма» Саймон Мэйолл: «Мы всё ещё пытаемся угадать, что находится по другую сторону холма, просто у нас есть больше инструментов, которые помогут нам в этом».
Искусственный интеллект и данные - это новая форма оцифрованной военной разведки, использующая киберпространство как обширный новый ресурс для получения информации.
Пол Шарре, известный военный исследователь, утверждал, что ИИ неизбежно приведет к смертоносной автономии. В 2019 году он опубликовал свой бестселлер «Армия никого», в котором рассказывалось о развитии дистанционных и автономных систем вооружения. Там Шарре предположил, что ИИ вот-вот произведет революцию в ведении войны: “В будущих войнах машины смогут принимать решения о жизни и смерти”. Новая книга Шарре «Четыре поля битвы: сила в эпоху искусственного интеллекта», опубликованная в феврале 2023 года, представляет собой глубокий пересмотр его первоначальной аргументации. В книге рассматриваются конкретные проблемы конкуренции великих держав, а также промышленные стратегии и системы регулирования, которые лежат в ее основе. Также описывается значение оцифрованных разведданных для военного соперничества. Шарре анализирует нормативную среду, необходимую для использования мощи данных. Он утверждает, что превосходство в данных и ИИ для их обработки будет иметь решающее военное значение в соперничестве сверхдержав, особенно между Соединенными Штатами и Китаем.
По мнению Шарре, есть четыре критических ресурса, которые определят, кто победит в этой гонке интеллекта: «Страны, которые лидируют на этих четырех полях битвы — данные, вычисления, таланты и институты [технологические компании] — будут иметь значительное преимущество в мощи искусственного интеллекта». Он утверждает, что Соединенные Штаты и Китай «сцепились в смертельной борьбе» за эти четыре ресурса. Соперники полностью осознают, что тот, кто получит преимущество в области ИИ, получит значительное преимущество в политическом, экономическом и военном отношении. Они будут более эффективны в применении военной силы. Они будут доминировать в информационном и киберпространстве.
В книге Шарре излагаются последние события, а также оценивается относительная сила США и Китая. Китай по-прежнему отстает от Соединенных Штатов в некоторых областях. Соединенные Штаты обладают ведущими талантами и лидируют в области исследований и технологий. Автор, таким образом, подчеркивает быстрые успехи Китая, а также его наметившиеся преимущества. Имея уже 900 миллионов пользователей Интернета, Китай располагает гораздо большим объемом данных, чем Соединенные Штаты. WeChat, например, не имеет аналогов в Америке. Многие китайские приложения превосходят американские. Кроме того, Китай не стеснен юридическими ограничениями или заботами о неприкосновенности частной жизни. Коммунистическая партия Китая активно отслеживает цифровые профили своих граждан, собирает их данные и фиксирует их действия. В городах используется технология распознавания лиц для идентификации людей.
Государственный контроль пошел на пользу китайским технологическим компаниям: “Огромные инвестиции КПК в разведывательное наблюдение и социальный контроль способствовали росту китайских компаний, занимающихся ИИ, и привязали их к правительству”. Коммунистическая партия Китая поддержала таких технологических гигантов, как Baidu и Alibaba: “Китайские инвестиции в технологии приносят дивиденды”.
«Четыре поля битвы» дополняет недавно опубликованные работы Бенджамина М. Дженсена, Кристофера Уайта, Скотта Куомо «Алгоритмы на войне: перспективы, опасности и ограничения искусственного интеллекта», Джеймса Джонсона «Искусственный интеллект и будущее ведения войны: США, Китай и стратегическая стабильность».
Центральный посыл этой литературы ясен. Указанные работы рассказывают не столько о перспективах использования ИИ в военных целях, сколько о том, почему замена человека искусственным интеллектом не может быть реализована. Авторы утверждают, что новые технологии успешны, когда они вписываются в существующие институциональные структуры и когда у них есть сторонники, которые могут объяснить, как они могут сделать возможными новые формы ведения войны. Анализ авторов опирается на всесторонние исследования информационных технологий, неравномерно принятых и развивающихся в разных странах и разных родах войск.
Данные и искусственный интеллект были и будут очень важны для вооруженных сил. Однако они не смогут радикально изменить саму войну — люди по-прежнему будут в подавляющем большинстве случаев использовать системы смертоносного оружия, в том числе дистанционного, которое убивают людей. Ситуация в бою сложная и запутанная. Чтобы использовать оружие с наибольшим эффектом, требуются человеческое суждение, мастерство и хитрость. Однако любой военной силе, которая хочет одержать победу на полях сражений будущего, необходимо будет использовать потенциал больших данных — ей придется освоить оцифрованную информацию, наводняющую пространство сражений.
Работа с ChatGPT 4.0 - прорывом 2023 года, - не особенно помогает в получении знаний о том, что представляет или будет представлять ИИ. Подобно шахматной программе Stockfish или даже Alpha Zero, это достаточно ограниченная программа искусственного интеллекта. Фактически, неандерталец в развитии искусственного интеллекта, который сейчас становится доступным для людей с помощью рекламы, так что они, по-видимому, думают, что они уже в курсе событий. В то же время технологическое развитие продвинулось значительно дальше. Объснение этого можно найти в книге «Эпоха ИИ» Генри Киссинджера, Эрика Шмидта и Дэниеля Хаттенлохера.
Киссинджер и его соавторы подробно описывают, что возможно и что невозможно с помощью ИИ, отбрасывая научно-фантастические сценарии, такие как Терминатор с его Скайнетом, в область легенд. Авторы, в том числе задаются вопросом, в какой степени ИИ произведет в ближайшем будущем революцию в военных стратегиях и типах ведения войны, если программа ИИ Alpha Zero в шахматах уже превосходит прежнюю линейную человеческую логику и выполняет ранее полностью невозможные и невообразимые вариации на поле боя.
В свое время шахматная программа Stockfish, которая уже считалась непобедимой, но ещё основывалась на линейной человеческой логике, входных данных прошлых игр, была заменена на Alpha Zero, которая имела в качестве входных данных только общие шахматные правила. Затем были разработаны совершенно новые варианты игры, изначально противоречащие прежней логике, такие как жертва ферзя, которая в обычных шахматах считалась старшей защищаемой фигурой и, несмотря на ее жертву, осуществляла неизвестные ранее варианты и внезапные атаки, что затем приводила к победе. Авторы говорят о чёрном ящике ИИ, который превосходит ранее известную человеческую линейную логику. Затем они предупреждают: если бы этот ИИ использовался в вооруженных силах, то военные стратегии могли бы измениться революционным образом. Но по аналогии с шахматами, существует риск того, что ИИ мог бы затем пожертвовать большими городами или миллионами людей в войне, чтобы победить. В какой степени ИИ уже используется в вооруженных силах США для военных стратегий и новых концепций ведения войны. А существуют ли уже новые военные стратегии, генерируемые ИИ - это государственная тайна первого порядка. Военные США, вероятно, уже разрабатывают или используют ИИ для разработки военных стратегий, боевых планов, новых видов комбинированной многомерной войны.
Хотя ИИ имеет много потенциальных применений, Сэм Дж. Тангреди и Георг В. Галдориси подготовили и выпустили в 2021 году книгу «ИИ на войне: как искусственный интеллект с большими данными и машинное обучение меняют морскую войну», представляющую собой исследование текущего состояния и будущего влияния искусственного интеллекта на морские боевые действия. Книга состоит из 20 эссе разных авторов. Редакторы собрали более тридцати экспертов, чтобы сосредоточиться на тех элементах, которые касаются национальной безопасности, разъясняя важность и потенциал ИИ в защите нации и в боевых действиях. В число авторов входят Роберт Уорк, бывший заместитель министра обороны; адмирал Джеймс Ставридис, бывший главнокомандующий, верховный главнокомандующий союзными войсками в Европе; адмирал Майкл Роджерс, бывший директор Агентства национальной безопасности; адмирал Скотт Х.Свифт, бывший командующий Тихоокеанским флотом США.
Книга опирается на широкий спектр исследований и оперативных идей, что приводит к разным мнениям авторов книги. Как известно, ИИ основан на машинном обучении на обширных потоках данных, которым необходимо доверять, чтобы в свою очередь, можно было доверять самому искусственному интеллекту. Реальная угроза заключается в том, что системы ИИ могут быть обмануты путем манипулирования данными, которыми они руководствуются.
При учете этой потенциальной уязвимости преимущества ИИ вытекают из его способности выполнять обширные задачи сопоставления с образцом в нереально короткие промежутки времени. Это приводит к рассмотрению огромного, недоступного для человека, количества вариантов решения и выполнения задач, часто автономными системами.
В книге рассматривается и оценивается прогресс исследований и разработок в области искусственного интеллекта и машинного обучения в США и Китае, а также потенциал их применения НОАК и военно-морским флотом КНР, в сравнении с опытом ВМС США (USN) и Корпуса морской пехоты США.
ИИ: сферы военного применения
Центральное место в расширении роли автономных транспортных средств с искусственным интеллектом занимает более глубокое понимание потенциальных преимуществ и рисков посредством исследований, разработок, военных игр, моделирования, симуляции, оперативных учений и подробной последующей оценки в ходе живых боев.
Военные эксперты зачастую выражают серьезные сомнения в отношении правовых и этических последствий использования вооруженными силами ИИ на войне или даже для повышения безопасности в мирное время. Самые резкие возражения связаны с перспективой того, что машины будут убивать людей без прямого одобрения людей-операторов и, возможно, даже без их надзора или способности вмешаться, если оружие выберет не те цели. Были высказаны опасения и по поводу других применений ИИ, таких как системы поддержки принятия решений, которые могут побуждать к эскалации действий или даже упреждающим атакам. При этом командиры не могут изучить сложные расчеты, лежащие в основе таких рекомендаций. Не могут реабилитировать граждан, задержанных или даже убитых в результате того, что система распознавания лиц или какой-либо другой сложный расчет ИИ ошибочно идентифицировала их как террористов или преступников.
Иногда бывает удивительно узнать, какие задачи компьютеру выполнить сложно, а какие легко. Наблюдение, известное как парадокс Моравека, (принцип в областях искусственного интеллекта и робототехники, согласно которому высококогнитивные процессы требуют относительно небольших вычислений, в то время как низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов.- Е.Л.,В.О.) показывает, как простые для людей задачи часто сложны для компьютеров, и наоборот. Одним из примеров этого парадокса является распознавание изображений. Люди легко и бессознательно распознают изображения, но в течение многих лет это было проблемой, намного превышающей возможности компьютеров.
В последнее время, благодаря прогрессу, в первую очередь в области глубоких нейронных сетей, компьютерное зрение превосходит человеческие способности в некоторых из этих задач, хотя оно всё ещё может демонстрировать удивительные неудачи по сравнению с людьми. С военной точки зрения способность обнаруживать объекты и распознавать изображения, и особенно распознавать лица и проводить эмоциональный анализ, имеет очевидное применение.
Американская компания Red Cat в сотрудничестве с Athena AI недавно представила Teal 2 —военный беспилотник, который позволяет интегрировать самые современные технологии компьютерного зрения. В военных операциях каждая секунда на счету, и способность Teal 2 отслеживать объекты в ночное время означает, что беспилотник может доставлять важную информацию бойцам и командирам, обеспечивая быструю поддержку в принятии решений. Беспилотник также может идентифицировать оружие и различные другие объекты и их конфигурацию ночью, а также маркеры идентификации «свой-чужой» (IFF).
В боевых условиях солдаты задействуют системы компьютерного зрения, чтобы обнаруживать и распознавать объекты. Алгоритмы могут идентифицировать противников, находить их уязвимые места и предсказывать поведение. Также некоторые устройства на базе ИИ способны по команде оператора ликвидировать цель после ее выявления.
ИИ всё чаще интегрируют в беспилотные летательные аппараты (БПЛА), системы противоракетной обороны, подводные лодки и самолёты. Поле боя — чрезвычайно опасное место. Применение искусственного интеллекта может смягчить некоторые угрозы. Дроны, роботы и другие системы для мониторинга угроз позволяют военным быстро оценить риски и получить указания по их минимизации. Транспортировка боеприпасов, вооружения и товаров — жизненно важна для успеха военных операций. Бронированные роботомобили без участия человека могут перевозить предметы, определяя оптимальные маршруты в текущих условиях, и собирать нужную информацию в процессе перемещения. Дроны и ИИ можно комбинировать для наблюдения за пограничными районами, выявления рисков и передачи информации об угрозах соответствующим группам реагирования.
Угрозы кибератак на военные системы могут привести к потере жизненно важных военных данных и нанести ущерб этим системам. С другой стороны, системы с поддержкой ИИ защищают от нежелательного доступа к сетям, программам, данным и компьютерам. Кроме того, онлайн-системы безопасности с возможностями искусственного интеллекта могут фиксировать алгоритм кибератаки и впоследствии создавать инструменты контратаки.
Вооруженные силы нескольких стран используют ИИ в оружии и других военных системах, развернутых на космических, воздушных, морских и наземных платформах. Эти системы более эффективны в бою и требуют меньше участия человека благодаря ИИ. Кроме того, меньшее техническое обслуживание ведет к повышению производительности и синергии военных систем. ИИ может быть оборудовано автономное оружие для проведения скоординированных атак.
Также искусственный интеллект необходим для военной логистики и поддержки боевых действий. Возможность успешного проведения военной операции зависит от движения войск, техники, боеприпасов. Интеграция ИИ в транспорт может сократить потребность в ручном труде и транспортные расходы. Он помогает военным кораблям выявлять аномалии и оперативно прогнозировать поломки компонентов.
В сложных боевых условиях методы искусственного интеллекта способны повысить точность распознавания целей. Анализ новостных лент, документов, отчетов и другой информации позволяет силам обороны иметь полное представление о возможных областях деятельности. Системы распознавания целей, включающие ИИ, лучше определяют местонахождение своих целей. Системы идентификации целей, управляемые ИИ, могут прогнозировать активность противника, собирать данные об окружающей среде, анализировать подходы к выполнению миссии и, среди прочего, использовать методы смягчения последствий. Цели могут быть отслежены с помощью машинного обучения и собранных данных.
Роботизированные наземные платформы (RGP) и ИИ могут быть объединены для оказания удаленной хирургической помощи в зонах конфликтов. В экстремальных условиях системы на базе искусственного интеллекта успешно изучают историю болезни солдата и оказывают поддержку в диагностике. Ярким примером этого является разработка исследовательской группой IBM в сотрудничестве с Управлением по делам ветеранов США Electronic Medical Record Analyzer (EMRA). Эта система была разработана для обработки медицинских карт пациентов; она позволяет выявлять и ранжировать проблемы со здоровьем с помощью методов машинного обучения.
Операции ISR (разведка, наблюдение и рекогносцировка) имеют решающее значение для мониторинга угроз и ситуационного анализа. Эти операции поддерживают обработку информации для широкого спектра военных действий. Операции ISR могут выполняться беспилотными системами, направляемыми по заранее определенному маршруту. Если эти технологии включают ИИ, военнослужащие смогут лучше оценивать угрозы и поддерживать ситуационную осведомленность.
ИИ способствует быстрой обработке больших объемов данных и извлечении полезной информации. Он помогает извлекать важные данные из нескольких наборов данных, а также собирать и добавлять расширенные наборы данных из многих источников. Военнослужащие используют эту технику для выявления тенденций и установления взаимосвязей.
Будущие военные приложения также будут в значительной степени зависеть от искусственного интеллекта. Он будет задействован значительно больше, чем люди, чтобы повысить скорость работы, увеличить ее эффективность, снизить рабочую нагрузку и т.п.
В вопросе применения в военных целях различных беспилотных систем пока лидерство удерживают США. Они с начала XXI века активно их задействуют, накопили значительный опыт и сейчас продолжают развивать это направление. По данным Globenewswire, к 2028 году рынок искусственного интеллекта в вооруженных силах оценивается примерно в 13,7 млрд долларов США.
В настоящий момент научное и военное сообщество в США стоят на пороге новых разработок в плане внедрения ИИ в образцы вооружений. Одним из ярких признаков роста интереса к данной сфере стало создание Подразделения оборонных инноваций в самом сердце Кремниевой долины (DIU). Заявленная миссия DIU заключается в ускорении внедрения Министерством обороны коммерческих технологий, преобразовании военной мощи и возможностей и укреплении инновационной базы национальной безопасности США. DIU управляет шестью портфелями проектов, предназначенных для решения задач национальной безопасности, в том числе в области искусственного интеллекта и машинного обучения.
Параллельно, Пентагон проводит тендер в рамках программы Skyborg по созданию беспилотных ведомых – автономных летательных аппаратов, которые смогут действовать в связке с пилотируемыми истребителями. Такие БПЛА могут выполнять функции разведчиков, носителей ударных вооружений, либо использоваться для прорыва противовоздушной обороны противника, чтобы снизить риски для личного состава.
В этом тендере конкурируют Boeing, General Atomics и Kratos. Они представили военным свои прототипы ещё к лету 2021 года, однако конкретные решения так и не были приняты. В бюджетном запросе на 2023 финансовый год, командование ВВС США указало, что в ближайшие годы потребуется ещё более 100 млн долларов на продолжение исследований и испытаний в рамках программы Skyborg. Наработки по Skyborg собираются использовать в рамках проекта Next Generation Air Dominance (NGAD), который предполагает создание истребителей нового поколения. Это должны быть опционально беспилотные боевые машины, оснащенные системой искусственного интеллекта.
Министерство обороны США ведет активный поиск современного наступательного оружия, способного повысить огневые возможности соединений при ведении войны на море и в воздухе. В 2023 году журнал Air & Space Forces Magazine сообщил, что компания Lockheed Martin развернула вторую производственную линию для производства сразу двух типов противокорабельных боеприпасов нового поколения для ВМС США - Long Range Anti-Ship Missile (LRASM) и ее воздушного варианта Joint Air-to-Surface Standoff Missile-Extended Range (JASSM-ER).
Противокорабельные ракеты большой дальности будут иметь возможность автономно выбирать цели и поражать их даже в условиях отсутствия GPS и связи. В зависимости от степени конкретности инструкций, которые операторы могут предоставить оружию до его непосредственного запуска, LRASM будет работать как в полуавтономном, так и в автономном режиме.
Как сообщает журнал Air & Space Forces Magazine, увеличение производства направлено на пополнение запасов ракет, которые, как показало моделирование, будут быстро исчерпаны в случае чрезвычайной ситуации на Тайване. Оборонный гигант Lockheed Martin ежегодно производит 500 ракет LRASM и JASSM-ER, но планирует довести это количество до 1 000 в год.
CША расширяют линейку автономных летательных аппаратов. На вооружении уже находятся такие БПЛА с применением ИИ как X47-B и MQ, автономные летательные аппараты Loyal Wingman, Flocking и Swarming. Концепция новой программы заключается в том, чтобы беспилотные системы работали в связке с пилотируемым объектом, с которого бы осуществлялось управление и целеуказание. Американский разработчик аэрокосмических технологий Kratos сообщает, что он на несколько лет опережает конкурентов в разработке беспилотных реактивных истребителей, которые американские военные намерены приобрести в ближайшие десятилетия. Компания разрабатывает и испытывает несколько тактических беспилотных летательных аппаратов, в первую очередь малозаметный автономный боевой реактивный самолет XQ-58 Valkyrie.
Союзники США также крайне заинтересованы в беспилотных ведомых. В частности, по заказу ВВС Австралии Boeing уже несколько лет разрабатывает аппарат под названием Loyal Wingman. Апробация первого такого аппарата состоялась в мае 2020 года.
На 2023 год запланированы испытания британского беспилотного ведомого. Его разрабатывает компания Spirit AeroSystems. Новый аппарат должен выполнять как самостоятельные разведывательные полеты, так и летать в паре с пилотируемыми истребителями "Тайфун" и F-35.
Самостоятельные исследования в данной области ведут индийские специалисты. Компания Hindustan Aeronautics Limited (HAL) разрабатывает дрон "Уорриор" (Warrior, "Воин"), предназначенный для совместных действий с легкими истребителями "Теджас" индийского производства. Проект находится на раннем этапе, первый полет прототипа ожидается не раньше 2025 года.
В Южной Азии Индия создала Центр искусственного интеллекта и робототехники (CAIR) при Организации оборонных исследований и разработок (DRDO), чтобы поддержать гонку вооружений в сфере ИИ для военных целей. Более того, в индийской доктрине Land Warfare 2018 года значительный акцент был сделан на ИИ и его интеграции в военные системы.
В связи с этим индийские военные эксперты сделали упор на использование ИИ в военных системах, пока не стало слишком поздно. Индия разрабатывает систему роботов Multi-Agent Robotics Framework — она, вероятно, будет действовать как команда солдат и помогать индийской армии в будущих войнах. Нью-Дели также приобрел 200 автономных роботов DAKSH — их ещё называют дистанционно управляемыми транспортными средствами (ROV) — для обезвреживания бомб.
Среди независимых игроков на оружейном рынке в последние годы заметно выделяется Турция. Для самостоятельной разработки беспилотных ведомых Анкара ещё не созрела, но направление беспилотников различного назначения развивает интенсивно. Отчасти страну к этому вынудили санкции со стороны США, которые после закупки Турцией российской системы ПВО С-400 ограничили военное сотрудничество с Анкарой, а также исключили ее из программы международной кооперации по производству истребителей пятого поколения F-35.
На данный момент известно, что в Турции создают два типа беспилотников. Первый вариант – это известный уже "Байрактар" в модификации со складывающимся крылом. Вторая же разработка – малозаметный сверхзвуковой дрон Kizilelma, разработанный в рамках проекта MIUS (Muharip Insansiz Ucak Sistemi).
На сегодняшний день двумя широко известными ударными израильскими БПЛА считаются "Гермес-450" производства Elbit Systems и "Херон-TP" производства Israel Aerospace Industries (IAI). Взлетная масса "Гермеса-450" – 550 кг, максимальная полезная нагрузка – 180 кг, продолжительность полета – 17 часов, максимальная высота – 5490 метров. Более мощный "Херон-TP" имеет максимальную взлетную массу 5670 кг при полезной нагрузке в 2700 кг. Аппарат рассчитан на 30 часов автономной работы. Максимальная высота – 13 700 метров. Как утверждает зарубежная пресса, сейчас израильские специалисты ведут разработку ещё как минимум трёх ударных беспилотников.
Одна из самых интересных новинок в области сухопутной беспилотной техники – мобильная береговая установка с противокорабельными ракетами, разработанная компанией Raytheon Missiles & Defense в интересах Корпуса морской пехоты США. Комплекс, получивший название NMESIS (Navy Marine Expeditionary Ship Interdiction System), представляет собой дистанционно управляемую пусковую установку производства Oshkosh Defense, вооруженную новейшими противокорабельными ракетами NSM (дальность поражения – до 185 км). Первые огневые испытания NMESIS прошли весной этого года. По мнению иностранных военных аналитиков, прежде всего эту систему будут применять в Азиатско-Тихоокеанском регионе с большим количеством архипелагов.
С каждым годом расширяется применение в военных целях беспилотных платформ на море и под водой. Минобороны США реализует амбициозную программу Ghost Fleet Overlord (Повелитель призрачного флота). В ее рамках ВМС США уже получили в свое распоряжение три надводных беспилотных судна – "Рейнджер", "Номад" и "Маринер". Последний из них поступил на службу в августе 2022 года.
Основой для этих беспилотников послужили серийные суда обеспечения, которые строит верфь Gulf Craft. Их длина составляет около 60 метров, на борту интегрирована автоматическая система управления разработки компании Leidos, которая допускает полностью самостоятельное плавание, в рамках заложенной программы, либо по дистанционным командам от оператора. Подобные суда могут выполнять как разведывательные и транспортные функции, так и участвовать в боевых действиях.
Еще один беспилотник – "Вэнгард" – сейчас строят на верфи Austal USA. Главное предназначение "Призрачного флота" – это отработка различных сценариев взаимодействия как между собой, так и с кораблями с экипажем. На основе этого опыта командованию ВМС США предстоит определить дальнейшую стратегию развития беспилотных надводных платформ.
Старается не отставать от мировых лидеров Великобритания. Королевский военно-морской флот прошлым летом представил судно "Патрик Блэкетт" типа XV (eXperimental Vessel), предназначенное для испытаний новейших технологий и систем, включая беспилотные комплексы с применением искусственного интеллекта. 42-метровое судно водоизмещением 270 тонн используют специалисты подразделения NavyX, которые отвечают за внедрение инноваций и отработку передовых концепций. Судно выполнено на базе быстроходного катера проекта 4008 Fast Crew Supply (разработан и поставлен голландской компанией Damen), который модифицировали под запросы NavyX.
США активно развивают возможности использования алгоритмических систем, которые заключаются в интеграции потенциала ИИ и машинного обучения для применения их на поле боя. Этот подход к ведению войны, ориентированный на геймификацию войны и оптимизацию ряда действий, которые выполнял человек посредством внедрения компьютерных приложений. Примечательно, что реализация разведывательных операций с применением алгоритмических систем практически ничем не отличается от условий, закладываемых в алгоритмы компьютерной игры. При этом алгоритмическая война — это широкая концепция, которая выходит за рамки приложений для разведки и анализа данных. Ее планируется применять в кибероперациях. Алгоритмы смогут обнаруживать и использовать уязвимости во вражеских киберсетях, одновременно обнаруживая и изгоняя злоумышленников из собственных сетей.
Военные специалисты США разрабатывают алгоритмы, по которым искусственный интеллект будет анализировать поставки вооружений на Украину, прогнозировать будущие потребности в них и в ремонте боевой техники. Как отмечает американский ресурс Defense One, поставлена цель не реагировать на запросы Киева, а действовать на опережение, что призвано ускорить поток оружия для ВСУ.
Разработка алгоритмов идет в рамках Международного координационного центра доноров (IDCC), расположенного в немецком Штутгарте, в штаб-квартире Европейского командования ВС США. Пентагон взял на себя роль координатора потока вооружений для ВСУ из примерно четырех десятков стран, представители которых там и работают.
Сейчас процесс устроен следующим образом. В IDCC поступают запросы из Киева, после чего в центре проверяют, какая из стран-участниц имеет соответствующие вооружения, боеприпасы или технику, а затем согласовывают их доставку представителям Украины, которые перевозят их через границу. Военные специалисты IDCC также работают над обеспечением скрытности поставок - при перевозке вооружений не используются номера полетов или другие типы трекинга.
Работающий в IDCC представитель ВС США Джаред Саммерс рассказал, что отсутствие трекеров затрудняет анализ, поэтому моделирование будет основываться на массиве данных о том, с какой скоростью Киев использует поставляемые с Запада вооружения и боеприпасы, как часто они выходят из строя и какие запчасти требуются для ремонта. Результаты моделирования будут использоваться для заблаговременного формирования пакетов вооружений для ВСУ. В IDCC рассчитывают выйти на практическое применение модели к концу 2023 года.
ИИ Китая для противостояния с США
То, насколько важным ИИ стал для национальной безопасности и военных амбиций Китая, было отмечено президентом Си Цзиньпином на XX съезде партии в октябре 2022 года, где он подчеркнул приверженность Пекина развитию ИИ и “интеллектуальному ведению войны” — имеются в виду военные системы с поддержкой ИИ. Хотя точную сумму затрат китайской армии на ИИ определить трудно (поскольку многие из ИИ-закупок, вероятно, засекречены), исследователи США считают, что китайские военные тратят на технологии, связанные с ИИ, от 1,6 до 2,7 миллиарда долларов в год.
Китай не просто планирует стать ведущей мировой державой в области искусственного интеллекта к 2030 году, Пекин также обратился к стратегии военно-гражданского слияния для достижения этой цели. Этот подход позволил стране ускорить внедрение оборонных инноваций за счет устранения барьеров между гражданским исследовательским и коммерческим секторами Китая и его военным и оборонно-промышленным секторами.
Технологический скачок Китая вызвал большую озабоченность в Вашингтоне и считается ключевым фактором, стоящим за решением США ввести радикальные ограничения на экспорт полупроводников в Пекин.
Это происходит по мере того, как преимущество, которое ИИ обеспечивает на поле боя, становится всё более очевидным. Эксперты нашли множество тактических и стратегических применений этим технологиям - от автономных систем и ускоренного анализа данных до операций по дезинформации, сбора разведданных, кибератак и интеграции людей и машин.
НОАК стремится использовать ИИ для обработки информации из многих источников, в том числе из сети беспилотных систем и подводных датчиков, окружающих Китай. Эти технологии также могут быть применены, чтобы помочь командирам принимать лучшие, быстрые и более актуальные решения на поле боя, поддерживая планирование военных операций, особенно в трудные времена.
Это крайне важно, поскольку Китай ожидает, что темпы военных операций в конечном итоге будут опережать человеческое познание. Поэтому НОАК стремится, чтобы ИИ улучшил структуру командования и контроля и достиг “превосходства в принятии решений” в “интеллектуальной” войне. Идея заключается в том, чтобы алгоритмы помогли соединить точки там, где одни люди могут не увидеть полной картины.
Хотя первоначальное представление НОАК об ИИ в военной сфере было сформировано под влиянием тщательного анализа военных инициатив США, ее подход отличается. НОАК ожидает, что ИИ может коренным образом изменить характер ведения войны, что приведет к переходу от сегодняшних «информатизированных» способов ведения войны к будущей «интеллектуализированной» войне, в которой ИИ будет иметь решающее значение для военной мощи. НОАК, вероятно, будет использовать технологии искусственного интеллекта для расширения своих будущих возможностей, в том числе в интеллектуальных и автономных беспилотных системах; объединения данных с поддержкой ИИ, обработки информации и анализа разведданных; при моделировании операций и обучении личного состава; в обороне, нападении в информационной войне, а также при поддержке принятия командных решений. В настоящее время НОАК финансирует широкий спектр проектов, связанных с искусственным интеллектом, а китайская оборонная промышленность и научно-исследовательские институты НОАК проводят обширные исследования и разработки, в некоторых случаях сотрудничая с частными предприятиями в русле вектора военно-гражданской интеграции. Данный вектор позволяет объединять кадровый, финансовый и технологический потенциал частного сектора (в том числе крупных компаний) и государства.
На выставке Airshow China 2022 в Чжухае дебютировал беспилотный ведомый FH-97A. Это реактивный двухдвигательный аппарат, способный находится в воздухе до 6 часов. Дальность полета указывается в пределах до 1000 км. Для снижения радиолокационной заметности дрон оборудован внутренним оружейным отсеком, вмещающим до восьми ракет с инфракрасным наведением. Данных о сроках принятия на вооружения FH-97A пока нет.
Летом 2022 года китайские специалисты приступили к морским испытаниям надводного стелс-беспилотника водоизмещением 200 тонн. Аппарат выполнен по схеме тримарана и по внешнему виду напоминает первый американский надводный 135-тонный беспилотник "Си Хантер" (Sea Hunter), разработанный в первую очередь для борьбы с подлодками. Компания Beikun Intelligent Technology из Чжэцзяна начала разработку аппарата в конце 2015 года. Перед создателями стояла задача построить интеллектуальный, автономный и малозаметный беспилотный аппарат, способный совершать плавания в условиях открытого моря с минимальными затратами и заметностью.
Ещё один китайский проект предполагает создание большого беспилотного тримарана, который можно будет использовать в качестве безэкипажного ударного корабля. Китайская пресса утверждает, что его постройка уже стартовала. Согласно информации журналистов, производство прототипа начато под руководством Научно-исследовательского института №716 китайской судостроительной госкорпорации CSSC (China State Shipbuilding Corporation). Создатели называют будущий беспилотник самым передовым аппаратом подобного рода в стране. Дрон выполнен по схеме тримарана на подводных крыльях, что должно обеспечить высокую скорость и большую продолжительность плавания. Платформу оснастят полностью отечественной силовой установкой. Заявлена способность беспилотника выполнять миссии самостоятельно по различным заданным сценариям. Другие подробности, включая информацию о назначении, точных размерах или типах миссий, для которых будет использоваться аппарат, пока не приводятся.
В 2020 году войска Народно-освободительной армии Китая провели учения по высадке морского десанта в провинциях Фуцзянь и Гуандун, продемонстрировав разнообразные возможности десантных операций. В этих учениях по высадке на море НОАК впервые продемонстрировала новейшую боевую беспилотную технику. В числе продемонстрированных боевых роботов – тральщик, «платформа беспилотной боевой машины повышенной проходимости», автомобиль-робот с системой искусственного зрения, вооружённый крупнокалиберным пулемётом и гранатомётом и предназначенный для боя в условиях города. В нее также был включен беспилотный минный подрыватель, который может быстро маневрировать на море, сбрасывая взрывчатку для подрыва мины, открывать новый маршрут и оказывать поддержку десанту. Была представлена также платформа беспилотной боевой машины повышенной проходимости. Эта машина оснащена совершенным прицельным и наблюдательным устройством. Кроме того, на машину можно установить легкий и крупнокалиберный пулемет и гранатомет.
В 2022 году Пекин заявил, что ему удалось разработать модель системы противовоздушной обороны с поддержкой искусственного интеллекта, которая будет предсказывать траекторию гиперзвуковых планирующих ракет и в то же время иметь возможность проводить быструю контратаку.
НОАК планирует использовать ИИ для имитации военных действий по вторжению на Тайвань, а также для идентификации подводных аппаратов. Согласно прошлогоднему отчету Центра безопасности и новых технологий Джорджтаунского университета, путём моделирования военных действий ИИ научится отслеживать корабли ВМС США и оперативно развертывать средства электронного противодействия.
Китайские военные готовятся развернуть беспилотник-разведчик, который способен летать как минимум в три раза быстрее звука, пишет The Washington Post. «Китайские военные вскоре могут развернуть высотный беспилотник-шпион, скорость которого по меньшей мере в три раза превышает скорость звука, что значительно укрепит способность Китая проводить операции по наблюдению», — сообщается в публикации.
В секретном документе американского Национального агентства геопространственной разведки (NGA), на которое ссылается издание, содержатся спутниковые снимки, датированные 9 августом 2022 года, на которых запечатлены два реактивных разведывательных беспилотника WZ-8 на авиабазе в восточном Китае, примерно в 350 милях от Шанхая.
В апреле 2023 года оборонное ведомство Тайваня сообщило о приближении к острову 38 летательных аппаратов НОАК, включая двух дронов — BZK-005 и TB-001. Полет китайских армейских беспилотников вокруг Тайваня стал основным шагом в подготовке КНР к воссоединению с островом военными средствами. Теперь китайские беспилотники будут регулярно летать вокруг Тайваня, написала газета South China Morning Post, ссылаясь на военных экспертов. Также газета написала, что БПЛА дальнего действия китайской армии, в особенности те, что могут нести вооружение, способны сыграть основную роль в проведении наблюдения, блокады, а также в ликвидации целей.
А что в России?
Ещё в 1983 году на вооружении флота появились крылатые противокорабельные ракеты П-700 «Гранит». Машины размером с истребитель МиГ-21 устанавливали на тяжелые атомные крейсера 1144 проекта типа «Петр Великий» и атомные подводные лодки проекта 949А «Антей».
Особенностью П-700 является то, что в её бортовой вычислительной машине, по сути, впервые в ракетной технике были реализованы алгоритмы искусственного интеллекта. Ракеты имели в своей памяти электромагнитные портреты всех современных кораблей иностранных флотов. При этом «Гранит» работал «в стае».
Точно так же работает и ракета П-800 «Оникс» – только ее алгоритмы стали более точными и сложными. В отличие от других противокорабельных ракет, имеющих «специализацию» по носителям, новый комплекс универсальный. Его можно размещать на разных типах подводных лодок, надводных кораблях и даже катерах, самолетах и на береговых пусковых установках.
В подмосковном Софрино стоит ещё один робот – циклопическая пирамида радиоэлектронной станции загоризонтного обнаружения целей «Дон-2Н». Она предназначена для обнаружения атакующих нашу территорию ядерных боеголовок и передачи информации об этом на пусковые установки противоракет комплексов А-135 «Амур», А-235 «Нудоль», С-400 и новейшей мобильной стратегической противоракетной системе С-500, которая только начала поступать в войска.
В 2021 году в Минобороны РФ сформировано специализированного управления по вопросам развития искусственного интеллекта. Минобороны объявило о проведении закрытого конкурса на выполнение научно-исследовательской работы «Исследования по созданию экспериментального образца комплекса разработки, обучения и реализации глубоких нейронных сетей для нового поколения военных систем с искусственным интеллектом» под шифром «Каштан».
Двенадцать тонн боевой массы, противотанковые сверхзвуковые ракеты «Атака», термобарические боеприпасы огнемета «Шмель», 30-миллиметровая пушка и крупнокалиберный пулемет – это портрет первого в российской армии роботизированного комплекса «Уран-9».
Минобороны сформировано ударного соединения, в котором люди играют второстепенную роль. Пока это пять роботизированных комплексов. В каждом – по одному пункту управления на шасси автомобиля КамАЗ и четыре «Урана». Каждый из них сможет бороться с бронетехникой, живой силой, уничтожать ДОТы, системы ПВО и даже сбивать вертолеты противника.
Практически все российские крылатые ракеты имеют ИИ. Авиационные ракеты «Н-555», «Х-101» и «Кинжал», морские ракеты «Калибр» и сухопутные ракеты «Оникс» в составе мобильной системы «Бастион» основаны на системе ИИ.
Искусственный интеллект в интересах Минобороны активно развивают, в частности, в военном технополисе «Эра». Холдинг «Росэлектроника» госкорпорации «Ростех» в начале 2022 года создал научно-исследовательскую лабораторию «Технологии искусственного интеллекта». Лаборатория занимается исследованиями в области применения ИИ в перспективных системах радиосвязи, разработкой типовых и кастомизированных технических решений, основанных на применении VR-технологий, технологий больших данных, машинного обучения глубоких нейронных сетей и искусственного интеллекта.
«Объединённая авиастроительная корпорация» (ОАК) для контроля качества деталей самолётов «МиГ» планирует использовать цифровую систему на основе искусственного интеллекта. Это будет система так называемого неразрушающего контроля качества - комплекс аппаратно-программных средств на основе цифровых технологий и технологий искусственного интеллекта.
С помощью системы будут контролироваться полуфабрикаты, заготовки, сварные швы деталей и сборочных единиц техники. Качество элементов станет распознаваться в автоматизированном режиме. В случае успеха проекта система может быть тиражирована на различных предприятиях ОАК, куда, помимо «МиГ», входят «Сухой», «Туполев» и др.
«Объединённая авиастроительная корпорация» (ОАК) для контроля качества деталей самолётов «МиГ» планирует использовать цифровую систему на основе искусственного интеллекта.
В совместную работу с военным ведомством по реализации инициативных работ в интересах Минобороны России сегодня вовлечены более 150 отечественных предприятий промышленности, научно-исследовательских и образовательных организаций из 28 городов России
Участие человек исключено в работе системы «Периметр», или «Мертвая рука», как ее называют на Западе, по нанесению ответного ядерного удара по США.
***
Искусственный интеллект играет важную роль в военных действиях. По сравнению с обычными системами военные системы на базе ИИ могут лучше и эффективнее управлять огромным объемом данных. Поскольку ИИ так хорош в принятии решений, он значительно улучшает саморегуляцию, самоконтроль и самоактивацию боевых систем.
Искусственный интеллект используется почти во всех военных приложениях, и ожидается, что увеличение финансирования исследований и разработок со стороны военных исследовательских агентств для создания новых и передовых способов использования искусственного интеллекта приведет к увеличению использования систем на основе ИИ в военных целях.
С помощью этой технологии солдаты могут быстрее выявлять опасности и получать указания о том, как с ними бороться. Армейские самолеты и наземная техника теперь оснащены интеллектуальными датчиками.
Крупнейшие военные державы мира начали гонку по внедрению ИИ в боевые действия. На данный момент это, в основном, означает предоставление алгоритмам контроля над отдельными видами оружия или роями дронов. Любая страна, которая введет ИИ в свое командование и управление, будет мотивировать других последовать ее примеру, хотя бы для поддержания надежного сдерживания.
Современная война меняет способ работы военной и оборонной промышленности. Однако в то время как рынок развивается благодаря технологиям, на технологии также влияют растущие ожидания и цели.
Многие области, связанные с обороной, продвинулись вперед с момента появления ИИ, включая определение целей, кибербезопасность, а также системы RADAR и SONAR. Однако ни одна машина не может полностью заменить людей, особенно в таких местах, как границы страны, где человеческое взаимодействие имеет решающее значение.
Елена Ларина, Владимир Овчинский
20.03.2023 Искусственный интеллект VS Человек.
|
|
На ютуб-канале Сама Меньшова вышло большое интервью с Ольгой Усковой.
Сегодня нейронные сети настолько глубоко проникли в жизнь каждого человека, а алгоритмам доверен такой объем информации, что устоявшийся термин восстание роботов перестает казаться абстрактной фантастикой. Скорее уж приобретает черты вполне конкретной и весьма опасной перспективы.
С 1990-х Ольга Ускова руководит компанией Cognitive Technologies. Небольшой стартап начинал с системы распознавания текста, а со временем разросся в холдинг и теперь специализируется на искусственном интеллекте в робототехнике, в частности автопилотировании наземного транспорта.
Прости меня, Даша
Знаете, где нарушаются пространственно-временные законы? Да в Якутии! Проверено лично. Может быть, это эффект стабильно низких температур, а может, это Бубен Верхнего Мира задает другую размерность пространства, но, попадая в Якутию, душа разворачивается в 4d-измерениях, а тело становится не очень важным…
Мы прилетели в Якутск по приглашению одного из самых уважаемых людей в республике, и хотя разговор должен был быть совершенно деловым, но нам сказали: сначала развлечения, а потом уже дела, иначе местные духи обидятся и не будет нам всем удачи. Удача была необходима в том непростом деле, и пришлось скорректировать планы.
От охоты я наотрез отказалась, не могу стрелять зверюшек, чем сильно испортила свое реноме в глазах Уважаемого Якута: он был Сыном Шамана и совсем не понимал этих соплей вокруг убийства животных. Ружье у него было с детства продолжением руки. Пришлось согласиться на рыбалку, но я попросила, чтобы это было недалеко от города, так как «дел за гланды» и все такое.
Местные мужчины горестно на меня взглянули. Они планировали нормальную такую рыбалочку, с уходом вверх по реке на пару недель, а тут эта московская моль-торопыга… но без москвички тоже никак. Бизнес-шмизнес. Роботов якуты еще делать не научились.
— Хорошо, — сказал Уважаемый Якут, Сын Шамана. — Поедем тут рядом. Близехонько. Четыреста пятьдесят километров туда и потом обратно. Дня за три-четыре управимся, тайменя наловим — и за дела!
Я вздрогнула, но спорить уже не могла. Компромисс в нашем деле вещь обязательная. Иначе обиды и непонимание.
Наверное, излишне говорить, что я была единственной женщиной в нашей экспедиции, и это придавало некоторый гендерный флер и остроту путешествию за линьками, сигом и тайменем в компании восьми мужиков. Мы плыли двумя катерами, нагруженными под завязку топливом и выпивкой. Заправок по пути следования не было. Да и вообще никакого жилья не было. Еду и закуску настоящий рыбак должен добывать по дороге сам. А водка, если что, очень калорийна…
Эта история могла приключиться и на Марсе, и на Венере. Плотность людей на квадратный километр в Якутии и на перечисленных планетах приблизительно одинаковая. Да и пейзажи там вдоль реки совершенно марсианские. А условия выживания на рыбалке для одинокой дамы, я думаю, на Марсе попроще будут.
До посадки в наши, не самые новые и современные, катера Сын Шамана собрал нас всех в круг, развел посредине небольшой костерок и пустил по кругу большую бутыль с 95-градусным спиртом. Потом вылил остатки в кос-тер и бросил туда несколько кусочков медвежьей строганины. После чего мы воздвигли каменные пирамидки из валунов местных и загрузились, сопровождаемые сытыми и пьяными Духами Реки и Гор, в катера.
Через пару часов выяснилась первая гендерная загвоздка: мужики могли справлять малую нужду просто с борта в реку, я же устроена несколько иначе. Уважаемый Якут почесал в голове, пробормотал, что у якутских женщин как-то не было с этим трудностей, но смилостивился и разрешил сделать остановку на излучине… Я в первый раз в жизни справляла малую нужду в прибрежных кустах под надзором двух молодых мужиков с винтовками, потому как медведи вокруг, волки и росомахи, а я такая аппетитная и беззащитная особь. Жить хотелось не меньше, чем писать, поэтому, плюнув на условности, я присела и стала параллельно озирать скалистые окрестности. И вдруг обнаружила невероятное: прямо над головой, на высоте 300 метров, на горном травянистом склоне из огромных стволов деревьев было выложено:
«ПРОСТИ МЕНЯ ДАША!»
Да-да. Запятой не было. А восклицательный знак был! Из целого соснового бревна.
Вы должны понять мое изумление. Мы были уже километрах в ста двадцати от всякого человеческого жилья. Вокруг были скалистые горы. Надпись была выполнена из огромных бревен, как будто извинялся перед волшебной Дашей огромный великан или Дух Горы.
На мой вопль сбежались мужики в надежде на добычу и чтобы подстрелить кого-нибудь. Я начала тыкать пальцем в послание на горе, на что Главный Якут, Сын Шамана поскучнел и, потеряв интерес к происходящему, побрел в лодку, пробормотав:
— А-а-а-а! Это Тимир перед Дашей извинялся. Набедокурил слегка….
Я дозастегнула джинсы и побежала за Главным, распираемая любопытством:
— Ну уж нет! Ты мне объясни две вещи: как он туда эти бревна затащил и закрепил и что же он такого натворил, чтобы надо было ТАК извиняться?
Катера опять затрещали моторами, и Сын Шамана стал не особенно охотно рассказывать историю Тимира и Даши:
— Понимаешь, мы здесь живем другой жизнью, чем вы там, в больших городах. Вокруг нас земля, тайга, зверь, птица, рыба. Мы здесь как бы в энергетическом слое планеты. Нас все это питает уже многие тысячелетия, и, хвала холоду, люди сюда не лезут пока. Поэтому мы здесь в таком заповедном месте. И существуем мы здесь по-другому. Все вокруг живое и обладает силой и духом. Дух Воды, Дух Горы, Дух Тайги, Дух Волка, Дух Коня, Дух Медведя… Каждый якутский род имеет своего тотемного духа зверя. В Якутии еще сохранились настоящие шаманы. Таким был мой отец, светлой памяти. Таким был и отец Тимира. Понимаешь, шаман у нас тот, с кем духи захотели разговаривать и с кем поделились силой. Духи сами находят такого человека, который подходит по своему складу (этинэн-хаанынан, ейунэн-санаатынан). По наследству не передается. У меня вот не вышло, как у отца. А у Тимира есть способности. Ему сны снятся, и он руками боль снимает, так что его род мечтал, чтобы Тимир пошел по этому пути. А он — нормальный парень. Удрал от них учиться в университет в Питере. Не захотел с бубном в меховом плаще скакать вокруг юрты. Там, в Питере, встретил Дашу, влюбился, решил жениться.
Приехал сюда с матерью говорить, а она у него женщина сложная. Недаром женой шамана много лет была. Она говорит:
— Ок, но вот я, сыночек, за границей ни разу не была. Свози меня, пожалуйста, до свадьбы в Турцию. Потом уже не до меня тебе с молодой женой будет.
Он согласился, конечно. А она там компанию в поездку сколотила и взяла с собой Алтану, красавицу девочку. Дочка соседей. Ну, там дальше показания расходятся. Тимир говорит, что маменька ему траву там в еду подмешивала и он поэтому закрутил курортный романчик с Алтаной. А я думаю, что и без травы он мог закрутить. Якутки сногсшибательно красивыми бывают в юности. Алтана — это что-то. Ну а уж Даше фоточки прислать в Инстаграм — это было совсем несложно. Ну и Даша, естественно, обиделась и помолвку расторгла.
Ну а Тимир три года потом мотался здесь по бабам сам не свой. Говорит, все, не могу без Даши. Моя женщина! Мне духи сказали! Ну и мать поверила. Кто же сыну плохого хочет. Сама в Питер полетела. Все рассказала ей как было, в ногах у девушки валялась и привезла ее сюда. А перед свадьбой Тимир с Дашей на вертолете к этой скале прилетел и говорит:
— Вот, видишь! Не хватает здесь запятой. Если ты мне не веришь, прыгну сейчас и стану запятой в этом предложении…
Главный Якут замолчал. Я дернула его за рукав:
— И чего дальше?
— Чего, чего… Ты запятую там видела?
— Не-е-ет…
— Ну вот. Поженились. Все нормально у них. Дети уже пошли. Он на алмазах работает.
— Ага. Ну а как он эти бревна-то туда затащил?
— Ну, это, может, ему духи помогли. А может, и вертолетом. Род богатый у них. Бабок немерено…
P.S. Это была одна из лучших рыбалок в моей жизни. Но теперь каждый раз, когда отправляю мужа в командировки или уезжаю сама в деловые поездки, у меня перед глазами встает эта северная скала с мозаикой вековых бревен.
Нет такого курортного приключения, ради которого стоило бы потом так напрягать духов!
Статьи/очерки на портале "Русский пионер"
Эта книга – первый отпечаток Новой Реальности. Не декларация, а сутевое произведение нового революционного мира. Оно написано при моральной и экспертной поддержке команды Cognitive Pilot, которая каждый день на роботозаводе в Томске производит эту самую реальность. Добро пожаловать в дивный чудесный мир, где рядом с биологическими людьми уже сегодня трудятся, думают, даже сопереживают Искусственные Существа, наделенные Искусственным Интеллектом. Прошлое догнало Настоящее и все вместе слилось с Будущим – так выглядит Время в котором мы все имеем честь жить, трудиться, любить, воевать, творить. Также выглядит и эта книга. В ней фантастический сюжет возможного развития событий в мире перемешан с документальными современными историями из жизни российских робототехников и нейронных программистов и практически невозможно понять, где вымысел переходит в правду, а где правда мигрирует в литературную фантазию. В этом фантастическом мире в результате безобразного теракта погибли все Президенты стран G7. И героям, российским нейронщикам, пришлось создать Искусственного Президента для урегулирования международных отношений в осиротевших странах... Клоны Президентов, ожившие легенды зороастрийцев, военная практика Искусственного Интеллекта... Все это и еще очень многое задает в этой истории ритм современности и предлагает человечеству ответ на вопрос: Что дальше? Этот роман – невероятное, разламывающее стереотипы событие в сегодняшнем политкорректном и выхолощенном толпами моралистов литературном мире. Изначальная версия претерпела определенную цензурную правку, но всё-таки Ольге Усковой удалось рассказать о главном.
Продается на сайте Буквоед
14.03.2023 Мощь искусственного интеллекта.
Последствия для человечества
О новых достижениях в области искусственного интеллекта (ИИ) каждый день сообщают ведущие информационные агентства. ИИ превратился в один из главных инструментов войны. О необходимости развития ИИ постоянно говорят лидеры мировых держав.
ИИ меняет глобальную динамику власти
28 февраля 2023 года в США вышла в свет книга Пола Шарре (вице-президента и директора по исследованиям Центра новой американской безопасности) «Четыре поля битвы: власть в эпоху искусственного интеллекта».
Шарре ранее работал специалистом по стратегическому планированию в канцелярии министра обороны США, работая над установлением политики в отношении беспилотных и автономных систем и новых оружейных технологий, а также определял политику Пентагона в отношении программ разведки, наблюдения и рекогносцировки.
Шарре исследует, как международная битва за самую мощную технологию - искусственный интеллект меняет глобальную динамику власти. Эта битва, по его словам, представляет собой глобальное соревнование в поисках лучших и наиболее эффективных данных, вычислительного оборудования, человеческих талантов и организаций, внедряющих технологии ИИ, которые определят следующую глобальную сверхдержаву.
Шарре утверждает, что доминирование ИИ определит следующую глобальную державу. Битва за мощь ИИ произведет революцию в мировых вооруженных силах и экономике.
12 марта 2023 г. Insider опубликовал интервью с Шарре о проблемах, отраженных в его книге. Вот его основные утверждения:
«Мы видели во время промышленной революции, что нации поднимались и опускались на мировой арене в зависимости от того, насколько быстро они индустриализировались. Теперь технология является ключевым фактором политической, экономической и военной мощи. И я думаю, что технологии искусственного интеллекта являются чрезвычайно мощными инструментами для способности страны или общества влиять на глобальный прогресс и международную среду».
«В книге исследуется соперничество США и Китая в области искусственного интеллекта. И рассматривается то, что происходит с искусственным интеллектом как с технологией общего назначения, очень похожей на электричество, компьютерные сети или двигатель внутреннего сгорания. Как и другие технологии, она имеет широкое применение в обществе.
В книге делается вывод о четырёх ключевых полях битвы глобальной конкуренции:
в области искусственного интеллекта или данных;
вычислительного оборудования или вычислений;
человеческого таланта;
институтов, необходимых для успешного внедрения систем ИИ».
«Вероятно, наиболее важным применением ИИ, которое поможет укрепить национальную мощь, является широкое применение ИИ для повышения экономической производительности и научных исследований. Когда технология ИИ будет внедрена в широкий спектр отраслей и повысит экономическую производительность, это будет иметь последствия второго и третьего порядка для национальной мощи за счёт увеличения ВВП, а затем позволит стране превратить экономическую производительность в другие, иногда более осязаемые инструменты национальной мощи — для разведки, создания спутников и обработки собранной разведывательной информации или строительства вооруженных сил».
«Технология искусственного интеллекта имеет большой потенциал в интеллектуальных приложениях. Я думаю, вполне вероятно, что министерство обороны США и разведывательное сообщество используют ИИ для анализа изображений, полученных со спутников или дронов, и, хотя они не признают этого публично, вполне возможно, что это играет роль в информации, которой США делятся с Украиной. Мы видели и другие примеры использования технологий искусственного интеллекта непосредственно украинскими силами на местах, в частности, некоторыми операторами гражданских беспилотников. И это действительно подчеркивает, насколько вездесущей является технология ИИ: вам не нужно быть самым продвинутым человеком в мире, чтобы использовать эту технологию, она довольно широко доступна.
Мы также видим в войне на Украине важность логистики, например, и операций по техническому обслуживанию, и это то, что основная часть того, что военные делают изо дня в день, это перемещение людей и вещей из пункта А до пункта Б — это очень похоже на Walmart или Amazon, просто то, что происходит в конце, отличается. Это место, где военные могут улучшить свою логистику, боеготовность, финансы, персонал и техническое обслуживание. Общая сумма этих эффектов с точки зрения военной эффективности может быть весьма значительной и весьма преобразующей».
«Что касается военных достижений в области ведения войны, то также есть несколько примеров. В конкурсе DARPA Alpha Dog целью было создание агента ИИ, который мог бы достичь сверхчеловеческих характеристик в симуляторе против человека в воздушном бою. ИИ преуспел, вышел лицом к лицу с опытным пилотом ВВС и полностью разгромил пилота-человека со счётом 15: 0 — человек не сделал ни одного выстрела против ИИ.
В частности, выстрелы «лицом к лицу» фактически запрещены при обучении пилотов-людей, потому что существует высокий риск столкновения, если пилот пытается маневрировать летательным аппаратом, когда вы мчитесь друг за другом со скоростью сотни миль в час. И в любом случае это чрезвычайно сложно сделать и требует сверхчеловеческого уровня точности, но всё это не было проблемой для агента ИИ. Он может делать эти выстрелы за доли секунды, избегая при этом столкновения. И агент ИИ научился делать все это сам — его этому не обучали. Система искусственного интеллекта, которая победила, была обучена на симуляторе и имела более 30 лет имитируемого времени полета. Это была одна из вещей, которые она просто выучила сама за все эти годы имитируемых воздушных боев».
«Есть множество мест, где ИИ может со временем оказать довольно значительное влияние на экономическую производительность. Один из них, конечно, вы знаете, - специальные приложения ИИ, которые могут улучшить финансы, медицину, транспорт или другие отрасли. Автомобили с автоматическим управлением должны быть на том этапе, когда они действительно эффективны и жизнеспособны на дорогах. Использование ИИ в медицине, для визуализации, - такие вещи могут быть очень полезными для всего общества. Но одна из самых захватывающих вещей в ИИ — это его способность повышать производительность в самых разных местах».
Когда я думаю об ИИ, я думаю о таких вещах, как распознавание лиц Clearview AI, когда правоохранительные органы могут использовать сканирование распознавания лиц гражданских лиц».
«Одним из действительно важных компонентов этой глобальной конкуренции в области искусственного интеллекта является нарастающая борьба за то, как ИИ используется внутри стран для внутренней безопасности и наблюдения, а также постепенное распространение, которое мы наблюдаем во всем мире, моделей техноавторитаризма в китайском стиле. В Китае находится половина из 1 миллиарда камер наблюдения в мире, и они всё чаще используют инструменты искусственного интеллекта, такие как распознавание лиц или распознавание походки, чтобы определить, кем являются люди, на основе их моделей походки и того, как они ходят. И в соединении этого с другими типами данных, такими как данные номерных знаков, звонки или данные геолокации на телефонах и покупательском поведении людей, чтобы отслеживать граждан Китая.
Китай экспортирует большую часть технологий за границу, поэтому 80 стран мира приобрели китайские технологии наблюдения. И, возможно, что мы всё чаще наблюдаем экспорт норм и законов, которые использует Китай, в другие страны для использования этой технологии. Итак, социальное программное обеспечение, если хотите, сочетается с физическим оборудованием некоторых технологий наблюдения».
«Одна из проблем, с которыми сталкиваются демократии, заключается в том, что пока нет единой модели использования ИИ. Для распознавания лиц, например, у нас есть лоскутная система, которая разрабатывается в Соединённых Штатах для различных правил, например, использования правоохранительными органами распознавания лиц в зависимости от того, где вы живете в Соединённых Штатах, а также в ряде других городов и штатов, где правоохранительные органы ввели запрет на использование распознавания лиц, я думаю, что одна из проблем, с которыми сталкиваются демократии, заключается в том, что децентрализованный характер власти внутри демократий означает, что поиск решения для управления технологиями занимает больше времени. Это занимает больше времени, потому что иногда быстрый ответ не является правильным».
«Какие ограждения должны быть установлены для этой технологии?
Регулирование ИИ в медицинских приложениях будет соответствовать более широкой парадигме того, как мы регулируем инструменты и безопасность медицинских устройств, а то, как мы регулируем ИИ в финансовых приложениях, будет отличаться от того, как мы регулируем торговлю и другие финансовые вопросы. Но я думаю, что ИИ не соблюдает правила, и стоит задуматься о том, что у нас есть только чистый воздух и вода, и безопасные дороги, и безопасные авиаперелеты, и безопасная еда в Америке из-за государственного регулирования. промышленности.
Нам нужна некоторая нормативно-правовая база для очень крупных моделей обучения. Я думаю, что это тот разговор, который нам нужно начать, отчасти потому, что эти большие модели во многих случаях имеют двойное назначение. Их можно было бы использовать для генерации текста и общения с ними или написания эссе, но их также можно было бы использовать для поиска киберуязвимостей, в принципе, если бы они были более сложными, их можно было бы использовать, чтобы помочь кому-то спланировать террористическую атаку, чтобы вызвать навредить или придумать, знаете ли, не сегодня, а в будущем сделать биологическое оружие или какое-то другое разрушительное устройство. И это разговор, который нам нужно начать прямо сейчас, отчасти потому, что темп развития технологий намного, намного, намного выше, чем темп политических дискуссий в Вашингтоне».
«Я думаю, что у нас должны быть оговорки в отношении технологии ИИ, потому что сегодня с технологией ИИ много проблем: она ненадежна, часто очень хрупка в том смысле, что системы ИИ могут хорошо работать в некоторых контекстах, а затем часто могут довольно серьезно выйти из строя в других.
Одним из моих любимых примеров такой хрупкости была, как сообщается, одна из ранних версий AlphaGo, агента ИИ, который достиг сверхчеловеческой производительности в игре Го. Он был обучен только для определенного размера, и это хороший пример проблем, которые часто возникают довольно хрупко и не позволяют распространить одну ситуацию на другую.
Мы наблюдаем некоторые из них совсем немного времени, например, при внедрении этих чат-ботов в поиск. Я имею в виду, что Microsoft и Google совсем недавно публично развернули чат-боты с искусственным интеллектом, которые не были готовы. И проблема не в том, что Bing заявляет о своей любви к пользователям и говорит, что тот, с кем общается чат, должен оставить свою жену, чтобы быть с ним — я имею в виду, что это довольно странно — а настоящая проблема в том, что лучшие учёные в области искусственного интеллекта в мире не знает, как помешать этим чат-ботам сделать это.
И поэтому для меня это то, что должно заставить нас задуматься, когда мы думаем о том, как мы используем эти системы ИИ в более реальных приложениях. В настоящее время риск того, что чат-бот заденет чьи-то чувства, не ошеломляет мир, но поскольку мы видим, что ИИ интегрирован в приложения с более серьёзными последствиями, мы хотим убедиться, что эти системы будут делать то, что мы от них хотим.
Поведение некоторых крупных компаний здесь не было сверхответственным. И это мы уже видим с Open AI, и Microsoft, и Google видели спешку за последнее время».
«Я бы не сказал, что оптимистично отношусь к технологии. Я имею в виду, что я довольно оптимистичен в отношении того, куда движется ИИ с точки зрения возможностей. Я просто думаю, что мы наблюдаем огромный прогресс, и я думаю, что нет никаких признаков его замедления в ближайшем будущем. Но есть много рисков, связанных с ИИ. Я бы просто сказал, что с оптимизмом смотрю на способность общества справиться с этими рисками. Я думаю, что когда мы делаем шаг назад и смотрим на человеческий прогресс, это лучшее время для жизни».
«Я действительно думаю, что есть очень серьезные проблемы с технологией искусственного интеллекта. Беспокоит то, что эти проблемы кажутся очень сложными. Эти технические проблемы, связанные с тем, чтобы заставить ИИ делать то, что вы хотите, довольно сложны. И я думаю, что важно, чтобы мы ясно представляли себе некоторые из этих технических проблем».
Представления об ИИ
Кей Ферт-Баттерфилд (глава отдела искусственного интеллекта и машинного обучения на Всемирном экономическом форуме), подробно описала на сайте ВЭФ (08.03.2023) различные типы ИИ, важные разработки и приложения в области машинного обучения и, возможно, самое главное, распространенные недоразумения об ИИ.
Какие существуют типы ИИ?
«ИИ состоит из нескольких разных моделей машинного обучения. К ним относятся, помимо прочего, обучение с подкреплением, обучение с учителем и без учителя, компьютерное зрение, обработка естественного языка и глубокое обучение.
Все модели машинного обучения разрабатывают и совершенствуют статистические прогнозы, но различаются по использованию и пониманию данных. Например, ChatGPT — это чат-бот на базе искусственного интеллекта, который может предсказывать наиболее вероятное следующее слово в предложении. Благодаря многочисленным и относительно точным прогнозам ChatGPT может создавать связные абзацы».
Что большинство людей неправильно понимает в отношении ИИ?
«ИИ — это не интеллект — это предсказание. С большими языковыми моделями мы наблюдаем увеличение способности машины точно предсказывать и выполнять желаемый результат. Но было бы ошибкой приравнивать это к человеческому интеллекту.
Это становится очевидным при изучении систем машинного обучения, которые по большей части всё ещё могут очень хорошо выполнять только одну задачу за раз. Это не соответствует здравому смыслу и не эквивалентно человеческому уровню мышления, который может легко облегчить многозадачность. Люди могут брать информацию из одного источника и использовать ее по-разному».
В чём вы видите наибольший потенциал ИИ?
«ИИ обладает огромным потенциалом для того, чтобы приносить пользу в различных секторах, включая образование, здравоохранение и борьбу с изменением климата. Например, FireAId — это компьютерная система на базе искусственного интеллекта, которая использует карты риска лесных пожаров для прогнозирования вероятности лесных пожаров на основе сезонных переменных. Он также анализирует риск и серьезность лесных пожаров, чтобы помочь определить распределение ресурсов.
Тем временем в здравоохранении ИИ используется для улучшения ухода за пациентами за счёт более личной и эффективной профилактики, диагностики и лечения. Повышение эффективности также снижает расходы на здравоохранение. Более того, искусственный интеллект должен радикально изменить — а в идеале — улучшить уход за пожилыми людьми».
Как вы думаете, где потенциальное влияние ИИ было преувеличено?
«Преувеличения в отношении потенциала ИИ в значительной степени связаны с непониманием того, что ИИ на самом деле может сделать. Мы всё ещё видим много машин с искусственным интеллектом, которые постоянно галлюцинируют, а это означает, что они делают много ошибок. Так что идея о том, что этот тип ИИ заменит человеческий интеллект, маловероятна.
Ещё одним препятствием для внедрения ИИ является тот факт, что системы ИИ получают данные из нерепрезентативных источников. Подавляющее большинство данных создается определенной частью населения Северной Америки и Европы, что приводит к тому, что системы искусственного интеллекта отражают это мировоззрение. ChatGPT, например, в основном извлекает письменное слово из этих регионов. Между тем почти 3 миллиарда человек до сих пор не имеют постоянного доступа к Интернету и сами не создали никаких данных».
Каковы самые большие риски, связанные с ИИ?
«Системы искусственного интеллекта невероятно новы. Поэтому компании и широкая общественность должны быть осторожны, прежде чем использовать их. Пользователи всегда должны проверять, что система искусственного интеллекта была спроектирована и разработана ответственно и хорошо протестирована.
Риск использования непроверенных и плохо разработанных систем искусственного интеллекта не только угрожает ценности и репутации бренда, но и делает пользователей уязвимыми для судебных разбирательств. Например, в Соединённых Штатах правительственные постановления ясно дали понять, что предприятия будут нести ответственность за использование дискриминационных инструментов найма на базе ИИ.
Есть также серьезные проблемы с устойчивостью, связанные с ИИ и передовыми компьютерными системами, которые используют огромное количество энергии для разработки и эксплуатации. Уже сейчас углеродный след всей экосистемы информационных и коммуникационных технологий равен выбросам топлива в авиационной отрасли».
Какие шаги можно предпринять, чтобы обеспечить ответственную разработку ИИ?
«Прежде всего, люди должны подумать о том, является ли ИИ лучшим инструментом для решения проблемы или улучшения системы. Если ИИ подходит, система должна быть тщательно разработана и тщательно протестирована, прежде чем она будет выпущена для широкой публики.
Пользователи также должны быть осведомлены о правовых нормах, а государственный и частный секторы должны работать вместе, чтобы разработать адекватные ограничения для приложений ИИ.
Наконец, пользователи должны использовать различные инструменты и ресурсы, которые были разработаны, чтобы помочь ввести ответственный ИИ».
Музей ИИ - Апокалипсиса
В Сан-Франциско, США открылся Музей рассогласования. Он представляет собой постапокалиптический мир, в котором ИИ уже уничтожил большую часть человечества, а затем, поняв, что это плохо, создал этот музей как памятник и принес извинения перед оставшимися людьми.
Это художественная инсталляция с целью расширения знаний об искусственном интеллекте и его силе разрушения и добра. Цель авторов — создать пространство для размышлений о самой технологии и критического осмысления искусственного интеллекта и его последствий. Авторы надеются вдохновить и заручиться поддержкой для разработки и принятия мер по снижению рисков, которые можно предпринять, чтобы обеспечить позитивное будущее по мере развития ИИ.
Ведь развитие ИИ резко ускорило научный и технологический прогресс и быстро переносит человечество в незнакомое будущее.
По замыслу авторов:
«Мы все больше обязаны взаимодействовать с машинами для работы и принятия решений, влияющих на жизнь людей (например, принятие решений с помощью компьютера в здравоохранении, уголовном правосудии, кредитовании). Если эта технология не будет продуманно разработана в соответствии с человеческой жизнью, она может дестабилизировать цивилизацию и даже привести к уничтожению человечества. Он также обладает огромным потенциалом для радикального улучшения жизни и развития цивилизации.
Мы в состоянии оказать огромное влияние на будущее человечества, разрабатывая технологии и соответствующие меры защиты от несогласованных целей в искусственном интеллекте, чтобы использовать его удивительные возможности.
Мы надеемся улучшить общественное обсуждение и понимание этой мощной технологии, чтобы вдохновить на продуманное сотрудничество, создание соответствующей нормативно-правовой среды и продвижение к обнадеживающему и яркому будущему».
Экспонаты музея:
http://ussr-2.ru/index.php/politika/sovremennye-vojny/bolshie-dannye-ii-2025/bolshie-dannye-ii-2021-23?showall=1#sigProGalleriab9efe85a4a
В. Овчинский
https://zavtra.ru/blogs/mosh_iskusstvennogo_intellekta
18.10.2022 Искусственный интеллект и контроль над вооружениями
О докладе «вашингтонских мечтателей»
Военный конфликт на Украине в числе многих проблем показал, что достижения в области искусственного интеллекта (ИИ) открывают огромные возможности для военных. Учитывая растущий потенциал военных систем с поддержкой ИИ, некоторые активисты бьют тревогу, призывая к ограничениям или прямым запретам на некоторые системы вооружений с поддержкой ИИ. И наоборот, скептики контроля над вооружениями ИИ утверждают, что ИИ будет исключительно трудно контролировать. ИИ - это технология, позволяющая использовать бесчисленные невоенные приложения. Этот фактор отличает его от многих военных технологий, таких как наземные мины или ракеты. Из-за широкой доступности абсолютный запрет на все военные применения ИИ, вероятно, неосуществим. Однако существует возможность запрета или регулирования конкретных вариантов использования.
Международное сообщество временами запрещало или регулировало оружие с разной степенью успеха. В некоторых случаях контроль над вооружениями работал хорошо. Однако в других случаях, таких как попытки ограничить неограниченную подводную войну или воздушные бомбардировки городов, государствам не удалось добиться длительного сдерживания в войне. Мотивы государств для контроля или регулирования вооружений различаются. Государства могут стремиться ограничить распространение оружия, которое особенно подрывает политическую или социальную стабильность, способствует чрезмерным жертвам среди гражданского населения.
В связи с этим интересен документ Центра новой американской безопасности «Искусственный интеллект и контроль над вооружениями» (авторы – Поль Шарр, виц – президент и директор по исследованиям Центра и Меган Ламберт, сотрудник Центра), опубликованный 12.10.2022. В нем рассматривается потенциал контроля над вооружениями для военного применения ИИ путем изучения исторических случаев попыток контроля над вооружениями, анализа как успехов, так и неудач. В документе также анализируется потенциал контроля над вооружениями ИИ и предлагаются определенные шаги для политиков.
Понимание контроля над вооружениями
“Контроль над вооружениями” - это широкий термин, который может охватывать множество различных действий. Как правило, он относится к соглашениям, которые государства заключают для контроля над исследованиями, разработкой, производством, использованием или применением определенного оружия, а также системами доставки оружия.
Виды контроля над вооружениями
Контроль над вооружениями может осуществляться на многих этапах разработки и применения оружия. Режимы нераспространения, такие как договор о нераспространении ядерного оружия (ДНЯО), направлены на предотвращение доступа к технологиям, лежащим в основе определенных видов оружия. Запреты, такие как запрет на наземные мин и кассетных боеприпасов, разрешают доступ к технологии, но запрещают разработку, производство или накопление оружия. Договоры об ограничении вооружений разрешают производство; они лишь ограничивают количество определенного оружия, которое страны могут иметь в мирное время. Другие соглашения регулируют использование оружия на войне, ограничивая его использование определенными способами или полностью запрещая его использование.
Контроль над вооружениями может осуществляться различными способами, включая юридически обязательные договоры, обычное международное право, вытекающее из практики государств, или не имеющие обязательной юридической силы документы. Успешный контроль над вооружениями может осуществляться даже посредством негласных соглашений, которые прямо не оговариваются между государствами, но, тем не менее, приводят к взаимной сдержанности.
Контроль над вооружениями между государствами является скорее исключением, чем правилом. Большую часть времени государства конкурируют в области военных технологий без формальных или неформальных механизмов контроля над вооружениями, ограничивающих их конкуренцию. Существует несколько факторов, которые затрудняют контроль над вооружениями. Контроль над вооружениями требует определенной степени координации и доверия между государствами, и обстоятельства, в которых контроль над вооружениями наиболее необходим — интенсивная милитаризованная конкуренция или война, — это те, в которых координация и доверие наиболее сложны. Мониторинг и проверка, которые могли бы обеспечить доверие, также являются проблемой, поскольку та же прозрачность, которая может развеять опасения конкурентов по поводу разработки оружия, может одновременно выявить уязвимости в собственных вооруженных силах, что заставляет государства неохотно принимать такие меры.
Несмотря на это давление, государствам иногда удавалось сдерживать разработку или использование оружия. Даже в разгар тотальной войны государства стремились к взаимной сдержанности и воздерживались от использования определенного оружия или тактики, которые привели бы к эскалации боевых действий.
Факторы, влияющие на успех или неудачу контроля над вооружениями
Авторы документа ссылаются на Шона Уоттса и Ребекку Крутоф, которые проанализировали исторические случаи контроля над вооружениями, чтобы определить, какие социальные, правовые и технологические факторы влияют на успех контроля над вооружениями.
Шон Уоттс выделяет шесть критериев, которые, по их мнению, влияют на возможность регулирования оружия: эффективность, новизна, развертывание, медицинская совместимость, разрушительность и известность. Эффективное оружие, которое обеспечивает “беспрецедентный доступ” к вражеским целям и обладает способностью обеспечивать доминирование, исторически устойчиво к регулированию. На протяжении всей истории существует неоднозначный опыт регулирования новых видов оружия или военных систем. Страны добиваются регулирования некоторых новых видов оружия или систем доставки оружия (например, бомбардировки с воздуха), одновременно сопротивляясь регулированию других новых военных систем (например, подводных лодок). Оружие, которое широко используется в военные операции государств, как правило, не поддается контролю над вооружениями. Оружие, которое наносит “раны, совместимые с существующими медицинскими протоколами” в военных и полевых госпиталях, исторически трудно запретить или регулировать. Могущественные страны исторически пытались регулировать или запрещать оружие, которое является “социально и военно разрушительным” из-за страха, что такое оружие может перевернуть существующую глобальную или внутреннюю динамику власти. Кампании, проводимые группами гражданского общества, имеющие неодобрение со стороны общественности, могут усилить дурную славу, делая оружие потенциально более уязвимым для контроля над вооружениями.
Модель Крутоф совпадает с моделью Уоттса, но ее основное внимание уделяется запретам на оружие, а не контролю над вооружениями в целом. Она выделяет восемь факторов, которые влияют на успех запрета на оружие. Оружие, которое причиняет чрезмерные травмы или ненужные страдания или которое по своей сути неизбирательно, скорее всего, будет запрещено. Страны, как правило, сопротивляются регулированию или запрету оружия, которое продемонстрировало военную или стратегическую полезность. Оружие, которое является уникальным или предоставляет стране “единственное средство достижения определенных целей”, трудно регулировать или запрещать. Более вероятно, что запрет, который является узким и четко определяет, что разрешено, а что нет, будет эффективным. Существующий договор или положение об определенном оружии могут сделать будущий контроль над вооружениями более успешным, если только технологические разработки не увеличат военную полезность оружия. Правозащитные группы и общественное мнение могут повлиять на рассмотрение странами вопроса о запрете на оружие, хотя, как отмечает Крутоф, “этот фактор далек от решающего”. Наконец, на успех запрета на оружие влияет как общее число стран, желающих поддержать запрет, так и то, какие страны согласны подписать его.
Уоттс и Крутоф согласны с тем, что эффективность оружия, возможно, является наиболее важным фактором, влияющим на успех контроля над вооружениями. Хотя их интерпретации немного различаются, оба утверждают, что оружие с уникальными ценными возможностями трудно регулировать. Уоттс фокусируется на социальной или военной разрушительности оружия — способности оружия нарушать существующий баланс сил. Хотя могущественные страны могут стремиться сдерживать разрушительное оружие, он утверждает, что эти усилия редко увенчаются успехом. Крутоф утверждает, что оружие, уникальное по своей “способности наносить разрушения определенного типа” или достигать определенных военных целей, вероятно, будет устойчиво к контролю над вооружением.
Желательность и осуществимость контроля над вооружениями
Успех или неудача контроля над вооружениями зависит как от его желательности, так и от его осуществимости. Желательность контроля над вооружениями включает в себя расчет государствами предполагаемой военной ценности оружия в сравнении с его предполагаемой повышенной опасностью (потому что оно бесчеловечно, неизбирательно или разрушительно для социального или политического порядка). Таким образом, желательность контроля над вооружениями зависит от желания государств сохранить оружие для своих собственных целей, уравновешенного их желанием ограничить его использование противниками.
Осуществимость контроля над вооружениями включает в себя способность государств добиваться ясности в отношении желаемой степени сдерживания, способность государств соблюдать соглашения об ограничении применения, способность государств проверять соблюдение при определенном количестве государств, необходимом для обеспечения сотрудничества. Контроль над вооружениями имеет наилучшие шансы на успех, когда высока как желательность, так и осуществимость.
Контроль над вооружениями считается успешным, когда поведение государства ограничено в разработке оружия, его количестве, размещении или использовании. Соглашения о контроле над вооружениями, которые не могут сдерживать поведение государства, не считаются успешными. В редких случаях сдерживание происходит по молчаливому согласию, без какого-либо официального договора или другого механизма. Однако, как правило, официальные соглашения являются полезным механизмом координации между государствами для достижения ясности в отношении того, что разрешено, а что нет. Во многих случаях успех существует в широком спектре. Немногие соглашения о контроле над вооружениями выполняются на 100% с нулевыми нарушениями. Некоторые из наиболее успешных соглашений, такие как современные запреты на химическое и биологическое оружие или ограничения на распространение ядерного оружия, имеют исключения и нарушителей. Другие соглашения успешны только в течение определенного периода времени, после чего технология или политическая обстановка меняются таким образом, что они рушатся. Тем не менее, даже частично успешные соглашения могут быть ценными для уменьшения ущерба за счет улучшения стабильности, уменьшения жертв среди гражданского населения или уменьшения страданий комбатантов.
Последствия для искусственного интеллекта
Технология ИИ создает проблемы для контроля над вооружениями по целому ряду причин. Многие из ее применений имеют двойное назначение. Будучи новой технологией, ее полный потенциал еще предстоит реализовать, что может помешать усилиям по ее контролю. Проверка любого соглашения о контроле над вооружениями с поддержкой ИИ будет сложной задачей. Государствам, вероятно, потребуется разработать методы обеспечения соблюдения требований другими государствами, чтобы им было удобно ограничивать свои собственные возможности. Эти препятствия, хотя и значительные, не являются непреодолимыми во всех случаях. При определенных условиях контроль над вооружениями может быть осуществим для некоторых военных приложений ИИ. Даже когда государства конкурируют в области военного ИИ, они должны искать возможности для снижения связанных с ним рисков, в том числе с помощью мер по контролю над вооружениями, где это возможно.
ИИ как технология общего назначения
Искусственный интеллект - это технология общего назначения, подобная электричеству или двигателю внутреннего сгорания, а не отдельное оружие, такое как подводная лодка, расширяющаяся пуля или ослепляющий лазер. Этот аспект технологии создает несколько проблем с точки зрения контроля над вооружениями.
Во-первых, технология ИИ применяется как в гражданской, так и в военной сфере, и поэтому широко доступна. Двойственный характер технологии делает контроль над вооружениями сложным в двух отношениях. С одной стороны, снижается вероятность успеха режима нераспространения оружия с применением ИИ. С другой стороны, широкая доступность технологий ИИ означает, что для соблюдения режима контроля над вооружениями потребуется много участников, чтобы он был эффективным. При прочих равных условиях координация, вероятно, будет более сложной и с большим числом участников.
Во-вторых, универсальный характер технологии ИИ может затруднить установление четких координационных центров для контроля над вооружениями. Это особенно верно, учитывая, что само его определение является нечетким и открытым для многих интерпретаций. На практике ИИ представляет собой настолько широкую область практики, что объявление “без применения ИИ” было бы аналогично высказыванию о государстве “без индустриализации” в конце XIX века. Хотя государства пытались регулировать или запрещать многие конкретные технологии, появившиеся в результате промышленной революции (включая подводные лодки, самолеты, воздушные шары, отравляющие газы и взрывающиеся или расширяющиеся пули), обещание государств просто не использовать какие-либо технологии индустриальной эпохи в военных действиях было бы несостоятельным.
Что касается технологий ИИ, то сегодня многие военные приложения, вероятно, будут использоваться не для использования оружия, что улучшает бизнес-процессы или оперативную эффективность, такие как прогнозное обслуживание, обработка изображений или другие формы прогнозной аналитики или обработки данных (которые могут помочь оптимизировать военные операции). Эти приложения ИИ могут повысить эффективность на поле боя за счет повышения уровня оперативной готовности, ускорения сроков развертывания, сокращения циклов принятия решений, улучшения ситуационной осведомленности или предоставления многих других достижений. Однако вопрос о том, где следует провести границу между приемлемым и неприемлемым использованием ИИ в военных целях, в большинстве случаев не может ясным. Государствам потребуется точное понимание, чтобы любое соглашение было эффективным.
Опыт государств в области контроля над вооружениями в отношении технологий, появившихся во время промышленной революции, является полезным историческим руководством, поскольку государства пытались регулировать (и в некоторых случаях преуспели) конкретные области применения промышленных технологий общего назначения, включая двигатели внутреннего сгорания (подводные лодки и самолеты. Эти усилия не всегда были успешными, но не потому, что государства не могли определить, что такое подводная лодка или самолет, и даже не потому, что государства не могли ограничить их гражданское использование (что не было необходимо для успеха запретов). Скорее, причины неудачи были связаны с конкретной формой использования этого оружия в военных действиях.
Анализ показывает, что, хотя запрет всех военных приложений ИИ может быть непрактичным по многим причинам, существует достаточно исторических свидетельств того, что государства могут согласиться ограничить конкретные военные применения ИИ. Тогда вопрос заключается в том, какие конкретные военные приложения ИИ могут соответствовать необходимым критериям желательности и осуществимости контроля над вооружениями. Поскольку ИИ может использоваться для многих приложений, могут быть определенные конкретные применения, которые считаются особенно опасными, дестабилизирующими или иным образом вредными. Приложения ИИ, связанные с ядерной стабильностью, автономным оружием и кибербезопасностью, уже были в центре внимания ученых. Однако могут быть другие важные приложения ИИ, которые заслуживают дополнительного рассмотрения. Даже в конкретных областях желательность и осуществимость контроля над вооружениями могут во многом зависеть от способа применения технологии. Запреты или правила могут быть разработаны исключительно в отношении конкретных технологий ИИ, которые считаются особенно проблематичными, в частности, ограничению производства пуль, которые предназначены для взрыва внутри тела, а не всех взрывающихся снарядов.
ИИ как новая технология
Одна из трудностей в прогнозировании того, какие конкретные приложения ИИ могут заслуживать дальнейшего рассмотрения для контроля над вооружениями, заключается в том, что пока не ясно, как именно ИИ будет использоваться в войне. Эта проблема не нова. В конце XIX и начале XX веков государства боролись за то, чтобы успешно контролировать новые технологии индустриальной эпохи именно потому, что они постоянно развивались.
Существуют способы, с помощью которых контроль над вооружениями становится как проще, так и сложнее для новых технологий. С одной стороны, превентивные запреты на новые технологии могут быть в некоторых отношениях проще, потому что у государства нет необходимости отказываются от оружия, которое уже интегрировано в их вооруженные силы, от которого они зависят в плане безопасности. С другой стороны, регулирование новых технологий иногда может быть более сложным.
Точно так же степень опасности оружия может быть неизвестна до тех пор, пока оно не будет применено, как это было в случае с ядовитым газом и ядерным оружием. Государства могут оказывать сильное сопротивление ограничению разработки оружия, которое представляется особенно ценным.
Восприятие военными ИИ как технологии, “меняющей правила игры”, может стать препятствием для достижения государственной сдержанности. Военные по всему миру инвестируют в ИИ и, возможно, неохотно запрещают некоторые виды его применения. Кроме того, восприятие систем ИИ как обладающих сверхчеловеческими возможностями, точностью, надежностью или эффективностью может снизить восприятие того, что некоторые приложения ИИ могут быть дестабилизирующими или опасными.
Представления о технологии ИИ, даже если они необоснованны, могут оказать существенное влияние на готовность государств рассматривать контроль над вооружениями для военных приложений ИИ. Со временем эти представления, вероятно, будут в большей степени соответствовать реальности, поскольку государства внедряют и используют военные системы ИИ. Однако в некоторых случаях, даже если некоторые приложения ИИ в конечном итоге будут признаны достойными контроля над вооружениями, может быть трудно загнать джинна обратно в бутылку, если они уже интегрированы в вооруженные силы государств или используются на поле боя.
Проблемы с проверкой соответствия
Даже если государства могут договориться о четких координаторах контроля над вооружениями, а компромисс между затратами и выгодами поддерживает взаимную сдержанность, проверка соблюдения любого режима контроля над вооружениями имеет решающее значение для его успеха. Одна из сложностей с технологией ИИ заключается в том, что, как и в случае с другими формами программного обеспечения, когнитивные атрибуты, которыми обладает система ИИ, нелегко наблюдать извне. “Умная” бомба, ракета или автомобиль могут выглядеть так же, как и “тупая” система того же типа. Датчики, которые автономное транспортное средство использует для восприятия окружающей среды, особенно если оно использует автономную навигацию, могут быть видны, но конкретный используемый алгоритм может и не быть. Это проблема при рассмотрении контроля над вооружениями для военных систем с поддержкой ИИ. Государства могут оказаться не в состоянии поддерживать взаимную сдержанность, если они не могут проверить, что другие соблюдают соглашение.
Существует несколько потенциальных подходов, которые можно было бы рассмотреть в ответ на эту проблему: государства могли бы проводить интрузивные инспекции, ограничивать физические характеристики систем с поддержкой ИИ, регулировать наблюдаемое поведение систем ИИ и ограничивать вычислительную инфраструктуру.
Внедрение навязчивых инспекций. Государства могли бы согласиться на режимы интрузивных инспекций, которые разрешают сторонним наблюдателям доступ к объектам и конкретным военным системам для проверки соответствия их программного обеспечения режиму контроля над вооружениями ИИ. Инспекционные режимы ИИ будут страдать от той же проблемы прозрачности, которая возникает для других видов оружия: инспекции могут выявить уязвимости в системе вооружений для конкурирующей страны. Однако будущий прогресс в проверке программного обеспечения, обеспечивающего конфиденциальность, может помочь государствам преодолеть эту проблему, проверяя поведение части программного обеспечения, не раскрывая личную информацию. Или государства могут просто согласиться с тем, что выгоды от проверки перевешивают риски повышения прозрачности.
Одна из проблем с инспекциями заключается в том, что если разница между разрешенными и запрещенными возможностями заключается в программном обеспечении, государство может просто обновить свое программное обеспечение после ухода инспекторов. Обновление программного обеспечения можно было бы производить относительно быстро и масштабно, гораздо проще, чем строить больше ракет или установок по обогащению урана. В принципе, государства могли бы преодолеть эту проблему путем разработки в будущем более совершенных технических подходов, таких как непрерывный мониторинг программного обеспечения для обнаружения изменений или путем встраивания функциональности в аппаратное обеспечение. Если государства не смогут уверенно преодолеть проблему быстрого и масштабируемого обновления систем ИИ после инспекций, режимы интрузивных инспекций останутся слабым решением для проверки соблюдения, даже если государства были готовы согласиться на такие инспекции.
Ограничение внешних наблюдаемых физических характеристик систем с поддержкой ИИ. Государства могли бы сосредоточиться не на когнитивных способностях системы, а на общих физических характеристиках, которые легко наблюдать и которые трудно изменить, таких как размер, вес, мощность, выносливость, полезная нагрузка, боеголовка и так далее. При таком подходе государства могли использовать любые когнитивные характеристики (датчики, аппаратное и программное обеспечение), которые они хотели для системы. Ограничения на контроль над вооружениями будут распространяться только на общие физические характеристики транспортного средства или боеприпаса, даже если фактическое беспокойство было вызвано военными возможностями, обеспечиваемыми ИИ. Например, если бы государства были обеспокоены скоплениями небольших противопехотных беспилотников, вместо того, чтобы разрешать только “тупые” маленькие беспилотники (что трудно проверить), государства могли бы просто запретить все небольшие беспилотники, оснащенные оружием, независимо от их когнитивных способностей. Государства ранее использовали аналогичные подходы, регулируя общие физические характеристики систем (которые можно было наблюдать), а не их полезную нагрузку (что действительно беспокоило государства, но было сложнее проверить). Многочисленные договоры времен холодной войны ограничивали или запрещали определенные классы баллистических и крылатых ракет, а не просто запрещали их вооружение ядерным оружием. Альтернативный подход, ограничивающий только ракеты с ядерным вооружением, позволил бы использовать некоторые обычные ракеты, но его было бы труднее проверить.
Регулирование наблюдаемого поведения систем с поддержкой ИИ. Государства могли бы сосредоточить правила на наблюдаемом поведении системы ИИ, например, на том, как она работает в определенных условиях. Это было бы аналогично концепции ограничений на бомбардировки “без городов”, которая запрещала не бомбардировщики, а способ их применения. Этот подход был бы наиболее эффективным при работе с физическими проявлениями систем ИИ, в которых внешнее поведение системы наблюдается другими государствами. Например, государства могут устанавливать правила поведения автономных надводных кораблей ВМС вблизи других кораблей.
Государства могут даже принять правила того, как вооруженные автономные системы могут четко сигнализировать об эскалации силы, чтобы избежать непреднамеренной эскалации в мирное время или в кризисных ситуациях. Конкретный алгоритм, который государство использовало для программирования поведения, не имеет значения; разные государства могут использовать разные подходы. Регулироваться будет поведение системы ИИ, а не ее внутренняя логика. Однако для некоторых военных приложений ИИ, которые не поддаются наблюдению, этот подход не будет эффективным. (Например, ограничения на роль ИИ в ядерном командовании и контроле, вероятно, не будут заметны противникам.) Другим ограничением этого подхода является то, что, как и в случае с интрузивными проверками, поведение системы потенциально может быть быстро изменено с помощью обновления программного обеспечения, что может исключить проверяемость и подорвать доверие.
Ограничение вычислительной инфраструктуры. Системы ИИ имеют физическую инфраструктуру, используемую для вычислений — чипы, и одним из подходов может быть сосредоточение внимания на элементах аппаратного обеспечения ИИ, которые можно наблюдать или контролировать. Потенциально это можно было бы сделать путем ограничения специализированных чипов ИИ, если бы эти специализированные чипы можно было контролировать с помощью режима нераспространения (и если бы эти чипы были необходимы для запрещенного военного потенциала). Другой подход, по-видимому, мог бы быть направлен на ограничение крупномасштабных вычислений, если бы вычислительные ресурсы были наблюдаемыми или могли отслеживаться. В последние годы ведущие исследовательские лаборатории ИИ вложили значительные средства в крупномасштабные вычисления для машинного обучения, хотя неясно, перевешивает ли ценность этого исследования его значительные затраты и как долго эта тенденция может продолжаться. Существуют также противоположные тенденции в эффективности вычислений, которые со временем могут демократизировать возможности ИИ за счет снижения вычислительных затрат на обучение систем машинного обучения.
Одним из важных факторов, позволяющих осуществлять контроль над вооружениями, ориентированный на аппаратное обеспечение ИИ, является степень демократизации инфраструктуры производства чипов во всем мире по сравнению с их концентрацией в руках нескольких участников. Современные цепочки поставок полупроводников сильно глобализированы, но имеют ключевые точки ограничения. Эти узкие места открывают возможности для контроля доступа к оборудованию ИИ. Например, в 2020 году Соединенные Штаты успешно отрезали китайскую телекоммуникационную компанию Huawei от передовых чипов, необходимых для беспроводной связи 5G, ограничив использование оборудования американского производства для производства чипов (хотя сами чипы были изготовлены на Тайване). Аналогичные меры, вероятно, можно было бы использовать в будущем для контроля доступа к оборудованию ИИ, если бы производство этих чипов было аналогичным образом ограничено несколькими ключевыми участниками.
Будущее развитие цепочек поставок полупроводников весьма неопределенно. Потрясения в цепочке поставок и геополитическая конкуренция ускорили вмешательство государства в мировой рынок полупроводников, вызвав значительную неопределенность в развитии рынка. Существуют тенденции, указывающие на большую концентрацию цепочек поставок оборудования и другие тенденции к большей демократизации. Высокая стоимость заводов по производству полупроводников, или фабрик, является одним из факторов, ведущих к большей концентрации в отрасли. С другой стороны, геополитические факторы заставляют Китай и Соединенные Штаты наращивать собственные мощности. Существуют мощные рыночные и нерыночные силы, влияющие на мировую полупроводниковую промышленность, и долгосрочные последствия этих сил для цепочек поставок неясны.
Дальнейший путь
Ближайшая историческая аналогия с текущим моментом с искусственным интеллектом - это милитаризация технологий индустриальной эпохи на рубеже ХХ века и попытки государств в то время контролировать это опасное новое оружие. После принятия Санкт-Петербургской декларации в 1868 году государства развернули бурную деятельность по контролю над вооружениями как в преддверии Первой мировой войны, так и в межвоенный период перед Второй мировой войной. Ведущие военные державы чуть ли не ежегодно встречались, чтобы обсудить контроль над вооружениями. Не все усилия привели к соглашениям, и не все договоры, которые были ратифицированы, были заключены в военное время, но масштаб дипломатической деятельности показывает усилия и терпение, необходимые для достижения даже скромных результатов в области контроля над вооружениями.
Есть несколько шагов, которые политики, ученые и члены гражданского общества могут предпринять сегодня, чтобы изучить потенциал контроля над вооружениями с применением ИИ. Они включают встречи и диалог на всех уровнях для лучшего понимания технологии, того, как она может быть использована в военных действиях, и потенциальных мер по контролю над вооружениями. Научные конференции, межакадемические обмены, двусторонние и многосторонние диалоги и дискуссии на различных международных форумах - все это ценно для содействия диалогу и взаимопониманию между различными станами. Анализ потенциальных мер по контролю над вооружениями должен быть тесно связан с самой технологией и поведением, которое она позволяет, и в этих диалогах должны участвовать ученые и инженеры по ИИ, чтобы гарантировать, что политические дискуссии основаны на технических реалиях. Кроме того, поскольку технология ИИ остается изменчивой и быстро развивается, те, кто рассматривает контроль над вооружениями, должны быть готовы к адаптации и переключению внимания на различные аспекты технологии ИИ или военные возможности, которые она обеспечивает по мере развития. Показатели для отслеживания прогресса и распространения ИИ также помогут осветить как возможности для контроля над вооружениями, так и будущие вызовы.
Политики могут предпринять шаги сегодня, которые могут сделать технологию более контролируемой в долгосрочной перспективе, определяя ее развитие, особенно в аппаратном обеспечении. Введение экспортного контроля в ключевых узких точках глобальной цепочки поставок может помочь контролировать распространение базовых технологий, которые позволяют использовать ИИ, концентрируя цепочки поставок и повышая управляемость в будущем. Однако экспортный контроль может привести к ускорению аборигенизации технологий, поскольку субъекты, которые отрезаны от жизненно важных технологий, удваивают свои усилия по наращиванию своего национального потенциала.
На заре революции ИИ неясно, как военные будут внедрять ИИ, как это повлияет на ведение войны и какие формы контроля над вооружениями государства могут счесть желательными и осуществимыми. Однако политики могут предпринять шаги сегодня, чтобы заложить основу для потенциальных мер по контролю над вооружениями в будущем, включая не только формирование эволюции технологии, но и политического климата. История контроля над вооружениями показывает, что меры по контролю над вооружениями часто основаны на предыдущих успешных соглашениях о контроле над вооружениями. Небольшие шаги сейчас могут привести к большим успехам в будущем, и государствам следует искать возможности для взаимной сдержанности, чтобы сделать войну менее ужасной, насколько это возможно.
***
Явно доклад писали люди, которых можно назвать «вашингтонскими мечтателями». Их рекомендации красивы, гуманны, но абсолютно неисполнимы в современных условиях, которые многими международными экспертами названы самыми опасными для человечества со времен Карибского кризиса.
Например, научный сотрудник Школы политологии и теории управления имени Шара - Закари Келленборн в статье в журнале Bulletin of the Atomic Scientists в начале 2022 г. предупредил, что предоставление искусственному интеллекту контроля над ядерным оружием может спровоцировать апокалиптический конфликт. Ведь ИИ играет все более важную роль в управлении разрушительным оружием, включая американский ядерный бомбардировщик B-21, китайские гиперзвуковые ракеты с искусственным интеллектом и российский ядерный беспилотник «Посейдон».
«Если бы искусственный интеллект контролировал ядерное оружие, все мы могли бы погибнуть. Военные всё чаще включают автономные функции в системы вооружения. Нет гарантии, что некоторые военные не поставят ИИ во главе ядерных пусков», — написал Келленборн.
По словам эксперта, в контексте ядерного оружия у правительства может быть мало данных о военных платформах противника. Существующие данные могут быть структурно предвзятыми, например, из-за того, что они полагаются на спутниковые снимки. Данные могут не учитывать очевидные, ожидаемые изменения, такие как изображения, сделанные в туманную, дождливую или пасмурную погоду.
Обучение программ ядерного оружия на базе ИИ также представляет собой серьезную проблему, поскольку ядерное оружие использовалось только дважды и реальных данных недостаточно.
Здесь трудно спорить.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/iskusstvennij_intellekt_i_kontrol_nad_vooruzheniyami
25.07.2022 Китай: судебно - полицейская власть алгоритма
Когда ИИ становится главным в борьбе с преступностью
Алгоритмы всё чаще заменяют людей в принятии решений, начиная от найма новых сотрудников и вопросов здравоохранения и заканчивая уголовным правом. Общественность все больше беспокоится о том, как именно алгоритмы принимают решения. Судьи, рекрутеры и врачи не обязаны объяснять каждое решение. Так почему возникает проблема с алгоритмами, которые делают то же самое? Люди считают более понятным процесс принятия решений человеком, нежели алгоритмом. Но, как утверждают исследователи, люди, делающие выбор, «часто такие же «черные ящики», как и алгоритмы, которые призваны их заменить».
На прошлой неделе было объявлено, что Верховный суд КНР обязал судей при принятии решений консультироваться с искусственным интеллектом, сообщает South China Morning Post. Нейросеть будет автоматически проверять судебные дела на наличие ссылок, а также рекомендовать законы и постановления, наиболее отвечающие сути спора.
На прошлой неделе South China Morning Post сообщила, что Верховный суд Пекина обновил судебную систему. Теперь судьи при принятии решений должны консультироваться с ИИ по каждому делу.
Пекин приветствовал новую технологию «умного» суда за то, что она внесла "значительный вклад в развитие судебной системы человеческой цивилизации", в то время как критики говорят, что она рискует создать мир, в котором человеком управляет машина.
Чуть больше года назад в Международном журнале судебного администрирования была опубликована статья Тани Сурдин и Бина Ли «Умный суд – новый путь к правосудию в Китае?» (The Smart Court – A New Pathway to Justice in China?). В ней авторы пишут, что Китай внедрил ряд новых технологий в свой сектор правосудия, чтобы обеспечить более широкий доступ к правосудию, повысить прозрачность судебной системы и обеспечить справедливое решение сторон в споре по юридическим вопросам.
Практика китайских судов по использованию технологий уникальна, поскольку центральное правительство приняло всеобъемлющие меры по созданию системы «умных» судов на всех уровнях. Авторы утверждают, что «умная» судебная система, основанная на компьютерных технологиях, которые позволяют использовать большие данные и блокчейн, формировать консультативные и определяющие формы правового искусственного интеллекта (ИИ), в определенной степени способствует более легкому доступу к правосудию, позволяет ускорить процесс разрешения споров, сократить расходы. Все это происходит за счет перевода судебного процесса в онлайн-режим и обеспечения возможности исполнения судебных решений.
Однако, с другой стороны, существуют опасения, связанные с применением некоторых технологий, которые включают использование автоматизированных решений, вопросы цифрового разрыва, независимость судебной системы, а также вопросы, связанные с конфиденциальностью и защитой данных.
Технологии, - от вычислительной техники и интернет-разработок до более поздних инноваций, связанных с использованием больших данных, формированием цепочек блоков и искусственным интеллектом (ИИ), -развиваются каждый день и вносят свой вклад в изменения на всех уровнях человеческого общества. Как часть человеческого общества, система правосудия и связанные с ней судебные процессы также неизбежно претерпели ряд изменений, которые стали возможными благодаря недавно разработанным технологиям. Одновременно в последнее время онлайн-судебные слушания получили распространение в таких юрисдикциях, как США, Великобритания, Канада и Австралия, отчасти в ответ на вызовы, возникшие в системе правосудия из-за пандемии COVID-19.
Как и некоторые другие страны, Китай внедрил новые технологии и попытался использовать технологические достижения в судебной системе в ответ на некоторые вызовы, возникшие в так называемую «информационную эру». Авторы утверждают, что Китай в последнее время развивался быстрее, чем другие страны, и этот прогресс частично связан с всеобъемлющей структурой, принятой в системе правосудия. Очевидно, есть много причин, по которым Китай сосредоточился на внедрении технологий в судах, и основная мотивация, по-видимому, связана с расширением доступа к правосудию и поддержкой «справедливых» результатов для тех, у кого есть юридические проблемы.
Китай принял амбициозный план по созданию «умного» суда и модернизации судебной системы по всей стране с использованием различных технологических инноваций. Как определил Главный судья Цян Чжоу, председатель Верховного народного суда КНР (SPC), в отчете о работе SPC за 2016 год, где впервые была официально упомянута концепция «умного» суда, его характеристики должны включать: «….обеспечение справедливости и эффективности судебной системы, повышение доверия к суду, максимальное использование технологий, включая Интернет, облачные вычисления, большие данные и ИИ, содействие модернизации судебной системы и возможностей Китая, а также достижение высокоинтеллектуального функционирования и управление народными судами».
Роль технологий была подтверждена в определении «умного» суда в 2017 году, в котором говорилось, что терминология не применяется к одному конкретному суду. Скорее, этот термин относится к «организационной, конструктивной и операционной модели народных судов, которая основана на передовых инновациях с целью достижения справедливого судебного разбирательства посредством поддержки интеллектуальных судебных онлайн-сервисов на протяжении всего процесса разрешения споров в прозрачной среде».
Примечательно, что создание «умной» судебной системы было интегрировано в Национальную стратегию развития информатизации Китая в 2016 году и было направлено на «повышение уровня информатизации на всех этапах судебных процессов, включая подачу иска, слушание, исполнение решения». С 2016 года уровень информатизации судебной системы Китая быстро растет, он направлен на более скорое разрешение споров, что позволяет достичь справедливости в более широком смысле. К июню 2019 года в Китае сформировалась «умная» судебная система, предлагающая населению прозрачные онлайн-услуги в рамках всего процесса.
Преобразование и реформа китайских судов
Китай начал развивать полный доступ к глобальным интернет-услугам в 1994 году и не входил в число одной из первых стран в мире, которые воспользовались преимуществами интернет-технологий. Китай также не был пионером в области судебного разбирательства по электронной почте. Однако очевидно, что, хотя многие страны изначально считали, что технологии могут быть полезны в судах, и разработали некоторые технологические процессы, авторы считают, что Китай был более активен, чем другие государства, особенно в последние несколько лет. Например, еще в 1998 году достопочтенный судья Верховного суда Австралии Майкл Кирби заметил, что суды начинают ежедневно использовать новые информационные технологии и что эти технологии, вероятно, приведут к радикальным изменениям в проведении судебных процессов. Несмотря на столь многообещающее начало, во многих юрисдикциях реформа застопорилась. Напротив, события в Китае развивались быстро, и некоторые предполагают, что Китай является новым лидером в области юридических технологий.
В 2019 году SPC отметил, что Китай добился значительного прогресса в области информационных технологий и интернет-индустрии, что, в свою очередь, создало проблемы для национального управления и отправления правосудия в стране. Возможно, растущее число интернет-пользователей в Китае позволяет судам использовать технологии и переводить судебную деятельность в онлайн. По факту, согласно отчету о развитии интернета в Китае, к началу 2021 года в Китае насчитывалось 989 млн пользователей интернета, что на 85,4 млн больше, чем в марте 2020 года.
Давление на китайскую судебную систему также было мотивирующим фактором, поскольку большое население Китая и более активная гражданская и коммерческая деятельность создавали проблемы для его судебной системы и увеличивали нагрузку на судей. Например, только в 2015 году в Китае было открыто более 16.714 млн судебных дел, что примерно в 27 раз больше, чем в 1978 году, когда Китай начал открываться для остального мира. Среди всех этих дел гражданские и коммерческие споры насчитывали 11.045 млн, что в 34,7 раза больше, чем в 1978 году. Судебная нагрузка также стала проблемой, поскольку в 2015 году в общей сложности было 196 000 судей, что всего в 3,27 раза больше, чем в 1981.
Огромный разрыв между количеством дел и числом судей был отражен в заявлении SPC в 2015 году о том, что судьи сталкиваются со все большей нагрузкой, поскольку те, кто работает в регионах с высокими экономическими показателями, должны ежегодно завершать 300 дел на одного судью. В своем годовом отчете о работе за 2017 год SPC сообщил, что в провинции Чжэцзян, где находится множество крупных корпораций, в том числе Alibaba, среднее количество закрытых дел на одного судью составило 315.
С конфликтом между растущим числом дел и нехваткой людских ресурсов, имеющихся в судах, связана озабоченность тем, что некоторые дела не завершаются своевременно, что не служит цели правосудия. И наоборот, во многих западных странах в 1980-х годах были высказаны серьезные опасения, связанные с затратами и задержками отправления правосудия, и основные решения были связаны с внедрением более эффективного ведения дел, а также с более широким использованием альтернативного разрешения споров, изменением юрисдикционных механизмов и ростом числа трибуналов. В то время как технологии сыграли свою роль в сокращении задержек и затрат в основном за счет внедрения поддерживаемых систем управления делами, в Китае технологии, которые могли бы значительно изменить судебную деятельность, были просто недоступны в 1980-х и 1990-х годах, когда в западном мире проводилась судебная реформа. В Китае, как и во многих западных странах, в ответ на увеличение количества дел, поданных в суды, было высказано предположение, что увеличение сборов за подачу всех поданных заявлений может сократить количество дел. Однако по ряду причин эта политика не проводилась по примеру ряда западных стран, где были введены дифференцированные сборы за подачу исков, чтобы ограничить подачу судебных исков и способствовать урегулированию споров до подачи иска.
В Китае озабоченность по поводу уязвимых групп населения и равенства доступа привела к появлению других подходов, в большей степени ориентированных на технологические инновации. В связи с этим авторы утверждают, что «интеллектуальная» трансформация судов за счет использования информационных технологий соответствовала бы традиционным ценностям судебной власти, позволяя судам быть более прозрачными, эффективными и ориентированными на людей. В статье отмечается, что технологическое удобство может поддерживать удобство судебной системы, что, в свою очередь, может значительно снизить высокие затраты, связанные с доступом к правосудию.
Кроме того, технологическая трансформация была направлена на открытие судов для публики. В 2014 году, принимая во внимание возможность улучшения системы правосудия с помощью технологических средств, председатель Верховного народного суда КНР Цян Чжоу призвал все китайские суды приложить усилия для того, чтобы общественность могла «ощутить справедливость», реализуя принцип судебной открытости «…с помощью интернет-технологий, таких как загрузка всех судебных решений в Интернет, прямая трансляция судебных слушаний и т. д.»
Несмотря на быстрое внедрение технологий в судебные системы в последние годы, предполагается, однако, что «умные» суды являются результатом трансформации судебной системы Китая, состоящей из трех этапов, которая началась в 1990-х годах.
Первый этап начался после «Национальной конференции по вопросам судебной коммуникации и компьютеров» в 1996 г. («Конференция 1996 г.») и закончился в 2003 г., когда все суды в Китае завершили оцифровку своих файлов. Конференция 1996 года была первым случаем, когда технология была в центре внимания с точки зрения решения вопросов судебного управления. Примечательно, что до этого многие судебные дела в Китае были написаны от руки. Проведенная работа не только перевела всю работу в цифровую форму, но также открыла путь судам для разработки онлайн-системы подачи документов. В последующем документе, выпущенном в 1997 году, SPC указал, что основная причина создания судами компьютерных систем заключалась в том, что традиционное ведение судебных документов не могло обеспечить эффективных услуг в контексте растущего числа дел. В более широком смысле, отсутствие цифровых или электронных документов, касающихся рутинной работы судов, таких, например, как доказательства, а также законодательные акты, на которые постоянно ссылаются судьи, поставили под угрозу эффективность судов. Таким образом, этот этап китайской судебной реформы был сосредоточен вокруг оцифровки судебных документов для внедрения компьютерных технологий в суды.
В первом Плане пятилетней реформы народных судов (1999-2003 гг.) было указано, что для модернизации судебного управления суды всех уровней по всей стране должны были оцифровать документы к концу 2001 г. Кроме того, в течение пяти лет (т.е. к концу 2003 г.) должна быть полностью создана общенациональная интернет-сеть, соединяющая все суды.
Второй этап трансформации судов Китая с 2004 по 2013 год характеризовался появлением судебных слушаний с использованием Интернета. То есть компьютерные и интернет-технологии использовались для ведения дел, а также в ходе слушаний. В 2004 году местный суд провинции Гуандун в Южном Китае принял поданное заявление о разводе, согласно которому пара проживала соответственно в Китае и Канаде, и суд общался с ответчиком (в данном случае с мужем) за границей по электронной почте, а также онлайн вручал документы. Таким образом происходил обмен судебными материалами. Хотя в этом деле не было видеоконференций, а электронная почта использовалась для общения и обмена информацией, это остается ранним примером, как интернет-технологии использовались для облегчения судебной работы. Более заметный пример слушания с помощью Интернета имел место годом позже, в 2005 году. Местный суд провинции Гуйчжоу использовал Tencent QQ, инструмент для обмена мгновенными сообщениями в Интернете, чтобы провести судебное заседание, когда одна из сторон развода не могла присутствовать лично, находясь в другой провинции. Аналогичные механизмы были приняты для поддержки уезжающих трудящихся-мигрантов, испытывающих трудности с поездками на гражданские слушания, и местный суд в Гуйчжоу продолжает использовать этот инструмент в упрощенном порядке. Первое полноценное слушание в режиме видеоконференцсвязи в Китае состоялось в 2007 году по уголовному делу о краже в Шанхае.
В начале 2000-х протоколы ведения судебных дел стали записывать с помощью технических средств, таких как аудио- и видеозапись. SPC изложил задачи, которые должны были выполнить суды, во втором Плане пятилетней реформы народных судов (2004–2008 годы). В этот период судебной открытости способствовала прямая трансляция судебных слушаний для публики. Например, в сентябре 2009 года Верховный народный суд Пекина объявил, что в целях содействия правосудию и предоставления людям возможности следить за работой судов он запустил веб-сайт судебных слушаний в прямом эфире, к которому широкая общественность по всей стране имела одновременный доступ и могла наблюдать за слушаниями, проводимыми в любом суде района Пекина.
В марте 2010 года Верховный народный суд провинции Хэнань в Центральном Китае также объявил о проведении первого слушания в прямом эфире в рамках своих усилий по повышению прозрачности правосудия. Несмотря на некоторые потенциальные преимущества в отношении слушаний в прямом эфире, были высказаны некоторые опасения, связанные с защитой конфиденциальности сторон и снижением дискомфорта для судей в связи с прямыми трансляциями. В самом деле, для решения этих вопросов, SPC включил «регулирование слушаний в прямом эфире» в качестве одной из задач судебной реформы в своем третьем Пятилетнем плане реформы народных судов (2009-2013 гг.).
В 2010 году SPC выпустил рабочий документ под названием «Меры в отношении прямой трансляции и трансляции записанных слушаний в народных судах», обязывающие все суды соблюдать четкий процесс, предназначенный для управления прямой трансляцией и записью слушаний.
В 2014 году китайские суды вступили в третий этап трансформации судебной системы Китая, который означал использование более сложных технологий. В Плане реформы народных судов за четвертую пятилетку (2014-2018 гг.) SPC сослался на информационные технологии для создания «открытой, динамичной, прозрачной и удобной» судебной системы, чтобы общественность могла «понимать, доверять и контролировать правосудие». В 2017 году, через год после того, как концепция «умного» суда была официально принята, Председатель Си Цзиньпин потребовал от судов ускорить судебную реформу с помощью современной науки и технологий, чтобы реформа правовой системы могла обеспечить дальнейшее развитие социализма с китайской спецификой. К 2017 году исполнительное руководство определило, что современная реформа судов требует системы, основанной на современных технологиях. В последнем Пятилетнем плане реформирования народных судов (2019–2023 гг.) SPC подтвердил, что «всестороннее продвижение строительства «умного» суда» является одной из десяти целей реформы системы правосудия в этот период. Что касается конкретных мер, принятых для достижения этой цели, SPC сослался на технологические инновации, связанные с ИИ, в том числе на улучшение подходов «перевод голоса в текст» на слушаниях, а также на интеллектуальные вспомогательные системы управления делами.
Также к 2017 году в суды уже был внесен ряд значительных изменений. Действительно, один из авторов доклада прокомментировал свой опыт посещения суда в Ханчжоу в 2017 году: «Меня впечатлило то, что я увидел: робот в приемной, который предлагал онлайн-юридическую помощь посетителям суда; возможность электронной подачи документов на месте; выделенные виртуальные залы судебных заседаний; дикторонезависимое распознавание голоса; и демонстрация первого в Китае «интернет-суда», который разрешает связанные с Интернетом споры, касающиеся, например, онлайн-кредитов, электронной коммерции (договорные вопросы и вопросы ответственности за качество продукции), споры о доменных именах и вопросы авторского права в Интернете».
Как отмечают авторы статьи, «умный» суд требует, чтобы судебные услуги были доступны и проводились онлайн. Первоначально многие изменения были направлены на обслуживание сторон и их юристов и обеспечение доступности информации о судебных решениях. В рамках этих усилий в 2015 году SPC отметил завершение работы над тремя онлайн-платформами, включая онлайн-информацию о судебных процессах в Китае, онлайн-информацию о судебных решениях в Китае и онлайн-информацию об исполнении судебных решений в Китае.
«Информация о судебных процессах в Китае в Интернете» предназначена для предоставления сторонам спора и юристам возможности получать обновления по собственным делам, позволяя сторонам входить в систему по идентификаторам, включающим имя, номер мобильного телефона, удостоверение личности или номер паспорта и проверочный код. Кроме того, на онлайн-платформе также доступна исчерпывающая информация, которая помогает сторонам и юристам ориентироваться в процессе судебного разбирательства.
«Информация о судебных решениях в Китае» (China Judgments Online ) публикует решения, вынесенные судами всех уровней в Китае, за исключением тех, которые не могут быть опубликованы открыто в соответствии с законом. Что еще более важно, информация и данные, полученные из судебных решений на онлайн-платформе, использовались в некоторых судебных системах, оснащенных технологией ИИ и разработанных местными судами. Например, Высший народный суд Пекина разработал и внедрил систему «Мудрый судья», опираясь на общенациональные данные о решениях, взятые из China Judgments Online. Система позволяет районным судьям Пекина, участвующим в составлении решений, обеспечить, чтобы «дела с аналогичными фактами получали аналогичные решения». Похожим образом, но конкретно в уголовной сфере, Верховный народный суд Шанхая разработал «Интеллектуальную вспомогательную систему рассмотрения уголовных дел», в которой собираются и используются шанхайскими судьями массовые судебные данные (в том числе данные из China Judgments Online) для обеспечения того, чтобы решения по аналогичным делам соответствовали принятым в других частях страны. Продвигая эту систему, бывший председатель Верховного народного суда Шанхая судья Ядун Цуй заметил:
«Поскольку судебный персонал — это разные личности со своей субъективностью, то неизбежно будут некоторые различия в обеспечении единообразия закона, что приведет к непоследовательному правоприменению и различным решениям по делам, в которых имеются аналогичные факты. Применение ИИ может предоставить судье все аналогичные дела, законы, постановления, судебные толкования и т. д., чтобы судья мог строго следовать правилам доказывания и процедуры. Это уменьшит судебный произвол и будет способствовать справедливости».
Однако подобные разработки вокруг судейства ИИ не лишены противоречий, в частности, в криминальной сфере. Например, авторами отмечается, что, хотя автоматизированные решения могут повысить эффективность, этот процесс может повлиять на судей и привести к тому, что они не захотят подробно рассказывать о своих рассуждениях или вырабатывать решения. В результате некоторые суждения, сгенерированные ИИ, выносятся без участия человека и могут быть неясными и трудными для понимания.
«Информация об исполнении судебных решений в Китае в Интернете» — это онлайн-платформа, на которой суды публикуют список сторон, которые не выполнили решения суда и/или не выплатили компенсацию. Данные об этих «дискредитированных» гражданах (включая имена и соответствующие идентификационные номера) могут быть использованы для предотвращения определенных действий таких людей, включая, например, покупку недвижимости или авиапутешествие. По данным онлайн-платформы, по состоянию на ноябрь 2019 года в списке «дискредитированных» числилось около 15,9 млн человек. SPC предположил, что различные меры, включая список «дискредитированных граждан», способствовали решению давних проблем, связанных с «трудно исполнимыми судебными решениями». В настоящее время система социального управления «умных» судов интегрирована с системой социального кредита Китая для расчета кредитных баллов физических и юридических лиц. Помимо этого, нейросеть позволяет судьям получать доступ к базам данных полиции, прокуратуры и правительства.
В дополнение к усилиям SPC по созданию онлайн-платформ, в рамках национальной стратегии «умного» суда» трансформирующего судебные услуги в онлайн-среду, был создан суд особого типа под названием «Интернет-суд». В августе 2017 года в городе Ханчжоу (провинция Чжэцзян), который считается столицей электронного бизнеса Китая, поскольку здесь находится штаб-квартира Alibaba, был открыт Интернет-суд Ханчжоу. Интернет-суд Ханчжоу обладает юрисдикцией для рассмотрения ряда дел, связанных с Интернетом, таких как споры по контрактам, возникающие в связи с онлайн-покупками и услугами. Через веб-платформу под названием «Платформа судебных разбирательств в Интернете в Ханчжоу» все судебные разбирательства могут быть завершены в режиме онлайн, от подачи дела и вручения судебных документов до изучения доказательств, онлайн-слушаний и вынесения решения. Одновременно, суд может решить использовать очный процесс для управления слушанием дела. Год спустя в Пекине и Гуанчжоу были созданы два других интернет-суда с аналогичными онлайн-платформами для судебных разбирательств.
Примечательно, что в сентябре 2019 года Интернет-суд Пекина выпустил «Белую книгу» о применении интернет-технологий в судебной практике. В официальном документе рассказывается, как различные технологии (в основном связанные с ИИ) используются, чтобы помочь суду предоставлять свои услуги, включая технологию распознавания лиц для подтверждения личности стороны, а также технологию машинного обучения для автоматического вынесения решений. Технология блокчейна также использовалась в интернет-судах для целей сохранения доказательств. В 2018 году интернет-суд Ханчжоу стал первым судом в Китае, признавшим технологию блокчейна средством хранения доказательств, помогающим в рассмотрении дел о нарушении авторских прав. Позже в том же году SPC подтвердил, что интернет-суды могут полагаться на доказательства, предоставленные сторонами, которые подтверждены электронными подписями, отметками времени, проверкой хеш-значения, блокчейном и другими методами проверки с защитой от несанкционированного доступа.
Основная цель многих из этих реформ заключалась в сокращении необоснованных задержек. В связи с этим судья Цянь Ду, председатель интернет-суда Ханчжоу, отметил в 2019 году, что среднее время слушаний по каждому делу было сокращено на 65% по сравнению с предыдущим годом.
Интернет-суд Пекина также положительно оценил эффективность своей судебной онлайн-платформы с точки зрения завершения споров. Кроме того, интернет-суды сообщают, что режим онлайн-судебного разбирательства помог сторонам избежать поездок и, следовательно, сделал правосудие более доступным.
В результате глобальной пандемии «умная» судебная система Китая расширила онлайн-процессы слушаний и сократила очные слушания. Чтобы облегчить онлайн-судебные разбирательства, суды Китая также разработали приложения для правосудия («приложения») для предоставления мобильного доступа к судебным органам. Эти приложения были особенно важны там, где в результате COVID-19 были введены блокировки и социальные ограничения. В связи с этим в январе 2018 года Народный суд промежуточной инстанции Нинбо в провинции Чжэцзян официально запустил приложение под названием «Мобильный микросуд Нинбо». Весь судебный процесс проводился онлайн, включая регистрацию дела, вручение юридических документов, посредничество, обмен доказательствами, судебное слушание и исполнение. По состоянию на август 2018 года с помощью этого приложения было рассмотрено около 70 000 дел. Сообщалось, что этот инструмент позволил сократить судебные издержки и повысить уровень удовлетворенности сторон.
Ввиду успеха приложения в регионе Нинбо, SPC продолжил разработку национальной версии «Мобильного микросуда» и начал продвигать ее в других частях страны. По официальным данным, к 31 марта 2020 г. общее число пользователей этого приложения достигло примерно 1,4 млн, и только в марте было зарегистрировано 390 тыс. новых пользователей, что представляет собой рост на 86,8% по сравнению с февралем. Кроме того, в марте в приложении было зарегистрировано 437 тыс. новых дел, что на 287% больше, чем в феврале. Среди этих дел в 72,6% сторонам потребовалось менее 15 минут для завершения процесса подачи.
Опасения по поводу использования технологий в «умных» судах
Как уже отмечалось авторами, прототип «умного» суда в Китае был завершен в 2019 году и оснащен различными технологиями для предоставления оптимизированных судебных услуг. Также было отмечено, что судьи получают выгоду от технологических инноваций, которые могут помочь им в проведении исследований и составлении решений, что приводит к завершению рассмотрения большего количества дел за аналогичный период. Что касается системы правосудия, использование технологий также способствует ее прозрачности, открытости и укреплению общественного доверия к судебной системе.
Несмотря на наличие общих преимуществ для общественности, сторон, судей и судебной системы, некоторые судьи и юристы выразили обеспокоенность по поводу технических проблем, связанных с подключением и неисправностями во время онлайн-слушаний, которые могут привести к их задержке. Такие технические проблемы могут привести к тому, что в разных регионах предпочтение может быть отдано традиционным личным слушаниям. В связи с этим в феврале 2020 года SPC выпустил официальный документ, озаглавленный «Циркуляр по укреплению и регулированию онлайн-судебных услуг в условиях пандемии». В нем SPC продвигал онлайн-судебные услуги для поддержки упорядоченной работы судов. Тем не менее, SPC указал, что готовность сторон участвовать в онлайн-процессе слушания была предварительным условием для судей, чтобы продолжать онлайн-судебное разбирательство.
Некоторые ученые поднимают проблему цифрового разрыва, когда стороны испытывают трудности с навигацией по онлайн-платформе для судебных разбирательств или имеют ограниченные знания о приложениях для правосудия. Это особенно проблематично, поскольку, несмотря на высокий уровень подключения, по оценкам, около 500 миллионов человек испытывают трудности с доступом к интернет-услугам в Китае. Проблемы с цифровыми возможностями и грамотностью могут увеличить нагрузку на судей, когда им может потребоваться информировать и обучать людей, как использовать онлайн-платформы для слушаний.
В то время как упомянутые выше проблемы будут постепенно решены в будущем за счет технологических достижений, встанет проблема того, что акцент на дешевом и быстром разрешении споров будет стоить справедливого исхода. В связи с этим возникают риски, которые могут быть связаны с типом используемых технологий. Используемые в настоящее время технологии можно сгруппировать в три уровня с некоторым перекрытием между уровнями, а также оказывать различное воздействие в зависимости от того, как используются технологии.
Во-первых, на самом базовом уровне, технологии могут использоваться для информирования, поддержки и консультирования людей, участвующих в системе правосудия («вспомогательные технологии», такие как прямая трансляция судебных слушаний для общественности или расширенная общественная информация через Интернет).
Во-вторых, технологии могут заменить функции и действия, которые ранее выполнялись людьми («замещающая технология», которая включает онлайн-регистрацию дел и обмен доказательствами, усовершенствованные системы управления делами).
Наконец, в-третьих, технологии могут изменить методы работы судей и юристов и обеспечить самые разные формы правосудия («подрывные технологии», такие как автоматизированные судебные решения с использованием ИИ), когда процессы значительно меняются и могут изменить роль судей.
В контексте «умного» суда некоторые проблемы могут быть связаны с неодинаковым подходом к поддержке технологической реформы, когда одни суды более развиты, чем другие. В связи с этим авторами было замечено, что строительство «умных» судов в регионах с высокими экономическими показателями, таких как Пекин, Шанхай и Чжэцзян в Восточном Китае, явно опережает некоторые экономически неблагополучные районы, такие как Цинхай и Тибет в Западном Китае. Отмечается, что это является результатом финансовых проблем, поскольку местные органы власти с большим бюджетом с большей вероятностью будут поддерживать технологически сложные местные суды.
Что касается вспомогательных технологий, позволяющих проводить виртуальные или онлайн-слушания, по всему миру уже существует ряд исследовательских программ, ориентированных на виртуальные/удаленные слушания. Например, в 2018 году Великобритания испытала, а затем оценила первые в стране «видеослушания» в налоговом трибунале, на которых апеллянты и представители налоговой службы присутствовали удаленно из своего дома или офиса. В Австралии аналогичные пилотные онлайн-слушания по уголовным делам проводились в 2011 г. Авторы статьи отмечают, что во время пандемии значительное количество судов по всему миру срочно перешли на онлайн-режим в ответ на COVID-19. Исследования показали, что, хотя видеослушания могут способствовать экономии средств и времени и, таким образом, улучшать доступ к правосудию, суды должны тщательно рассматривать вопрос о «соответствии» дел и лиц, участвующих в таком виртуальном подходе.
Исследования показали, что в уголовной сфере те, кто присутствует на слушаниях удаленно, находясь под стражей в полиции или в тюрьме, с большей вероятностью получат более длительные сроки, чем те, кто появляется лично. В связи с этим, несмотря на отсутствие в стране эмпирических исследований того, как онлайн-слушания влияют на вынесение приговора, один китайский прокурор в Шанхае заявил, что некоторые уголовные дела не подходят для «облачного» слушания. К таким делам относятся те, в которых фигурируют обвиняемые с нарушениями слуха и речи или несколько обвиняемых. Кроме того, удаленные подходы могут затруднить получение истцами, представляющими себя самостоятельно, представительства и других форм поддержки, поскольку они отделены от физического здания суда.
Помимо вопроса «уместности», существуют опасения по поводу способности онлайн-судов поддерживать «справедливость», что связано с неоднозначными нормативными правилами. В связи с этим SPC указал, что при обстоятельствах, когда истец дал свое согласие на онлайн-слушание, но не явился в оговоренное время или отказался от участия в онлайн-слушании без согласия судьи, за исключением некоторых уважительных причин (таких как подключение, отключение электроэнергии, форс-мажор), судьи «могут» постановить, что это может представлять собой «отказ от явки» и применить «соответствующие законы».
Например, в апреле 2020 года Народный суд округа Тонган провинции Фуцзянь рассмотрел дело, возбужденное в отношении автосервиса. Возражений против онлайн-судебного заседания истец не заявлял (после получения извещения суда об онлайн-процессе), а затем не явился в указанный день в связи с командировкой. Истец, по-видимому, попросил своего младшего брата выступить в роли истца, используя маску. В конце концов, судья выяснил, что в судебном заседании присутствовал брат истца, а не сам истец, и поэтому вынес определение о том, что отсутствие истца и отказ от назначения им представителя письменным документом убедили судью, что истец хотел «отказаться от дела». По иронии судьбы, согласно имеющему обязательную силу судебному толкованию ГПК, после вынесения судом постановления об отзыве дела истец по-прежнему имеет право возбудить другое дело по тому же иску. Ясно, что двусмысленность соответствующих правил может привести к ненужной трате времени и средств для судей, сторон и адвокатов, и в результате юристы призывают клиентов к осторожности, прежде чем принимать решение об использовании «онлайн» судебного разбирательства.
Кроме того, хотя функция автоматического вынесения решений в «умном» суде может быть полезна для снижения нагрузки на судей, возможно, что судьи могут чрезмерно полагаться на рекомендации ИИ и неохотно отступать от этих рекомендаций, тем самым поднимая вопросы о беспристрастности судей, а также о том, действительно ли такие судьи являются «инструментальными судьями». В результате существует риск, что независимость «судей» может быть подорвана совместными намерениями разработчиков, инженеров-программистов, компаний, занимающихся информационными технологиями, и других организаций, которые участвуют в разработке автоматизированного процесса принятия судебных решений.
Еще одна проблема заключается в том, что компании, занимающиеся юридическими технологиями, имеют доступ к огромному количеству судебных данных при разработке своих продуктов для судов. Это явно создает проблему информационной безопасности, а также риск того, что данные, собранные разработчиками системы, могут быть уязвимы для сбора и неправомерного использования неуполномоченными третьими лицами.
Кроме того, в Китае количество и качество судебных данных, на которые разработчики полагались, чтобы предоставить судьям репозитории для облегчения принятия ими решений, имеют сомнительную ценность. В частности, только 50% всех судебных решений в Китае были переведены в цифровую форму и использовались для сбора данных. Поскольку почти половина всех решений недоступна разработчикам, сомнительно, насколько надежными могут быть предлагаемые результаты. Помимо этого, автоматизированные процессы требуют сложного машинного обучения, чтобы читать, понимать и затем оценивать тексты образцов документов. Однако на практике большинство разработчиков использовали общую технологию обработки языка, которая затем применялась к конкретным настройкам «справедливости», что поднимает дополнительные вопросы о точности автоматических суждений.
Кроме того, не только суды, но и другие правоохранительные органы стремятся внедрить цифровые технологии в свою работу. В СМИ рассказывалось о том, что китайская прокуратура использует нейросети для оценки доказательств и опасности подозреваемого для общества. В начале 2022 года народная прокуратура Шанхайского района Пудун протестировала ИИ, который может выдвигать собственные версии обвинения после изучения уголовного дела. Нейросеть способна идентифицировать восемь самых распространенных преступлений, среди которых мошенничество, азартные игры, опасное вождение, умышленное причинение физического вреда, воспрепятствование выполнению служебных обязанностей и завязывание ссор.
Ещё в 2017 году у одного из самых известных предпринимателей Китая было смелое видение будущего: компьютерная система, которая могла бы предсказывать преступления. Предприниматель Инь Ци, основавший стартап Megvii, занимающийся ИИ, рассказал китайским государственным СМИ, что система наблюдения может дать полиции поисковый инструмент для выявления преступлений, анализируя огромное количество видеоматериалов, чтобы определять закономерности и предупреждать власти о подозрительном поведении. Он объяснил, что, например, если камеры обнаружат, что человек проводит слишком много времени на вокзале, система может пометить его как возможного карманника.
Пять лет спустя внутренние презентации Megvii показывают, как продукты стартапа собирают полные цифровые досье для полиции. Программное обеспечение анализирует данные, чтобы «обличить обычных людей, которые на первый взгляд кажутся ни в чем невиновными».
В 2022 году полиция Тяньцзиня купила программное обеспечение, созданное компанией Hikvision, целью которого является прогнозирование протестов. Система собирает данные о легионах китайских петиционеров - общий термин в Китае, который описывает людей, пытающихся подать жалобы на местных чиновников в вышестоящие инстанции. Затем он оценивает петиционеров по вероятности того, что они отправятся в Пекин. Местные чиновники хотят предотвратить такие поездки, чтобы избежать политического позора или разоблачения правонарушений. И центральное правительство не хочет, чтобы группы недовольных граждан собирались в столице.
Система Hikvision в Тяньцзине, которая работает в сотрудничестве с полицией близлежащих к Пекину провинций, является более совершенной. Пплатформа анализирует вероятность подачи петиций отдельными лицами на основе их социальных и семейных отношений, прошлых поездок и личных ситуаций. Это помогает полиции составить профиль каждого, с полями для пометок офицеров, чтобы описать темперамент протестующего и т.д.
Когда полиция в Чжоунине, сельском округе провинции Фуцзянь, в 2018 году купила новый комплект из 439 камер, они указали координаты, куда будет направлена каждая из них. Согласно документу о закупках, некоторые из них висели над перекрестками, а другие - возле школ. Девять из них были установлены возле домов людей, у которых есть одно общее: психическое заболевание.
В то время как некоторые программы пытаются использовать данные для выявления новых угроз, более распространенный тип основан на предвзятых представлениях полиции. Согласно документам о закупках, среди собираемых данных были данные на людей с психическими заболеваниями, осужденных преступников, наркоманов, просителей, подозреваемых в терроризме, политических агитаторов и т.п. Другие системы нацелены на рабочих-мигрантов, праздную молодежь, этнические меньшинства, иностранцев и лиц, инфицированных ВИЧ.
Система Yitu позволяет полиции разработать свои собственные ранние предупреждения. Полиция может основывать сигналы тревоги на конкретных параметрах, в том числе на том, где появляется человек, занесенный в черный список, когда он перемещается, встречается ли он или она с другими людьми, занесенными в черный список, и частотой определенных действий. Полиция могла бы настроить систему на отправку предупреждения каждый раз, когда, например, два человека с историей употребления наркотиков регистрируются в одном отеле или когда четыре человека с историей протеста входят в один и тот же парк.
В 2020 году в городе Наньнин полиция установила программное обеспечение, которое могло бы искать «более трех ключевых людей, регистрирующихся в одном и том же или близлежащих отелях», и «наркомана, часто звонящего на новый городской номер». В Шанхае власти использовали программное обеспечение для выявления тех, кто превысил норму потребления воды и электроэнергии. Система отправляла “цифровой сигнал” в полицию, когда обнаруживала подозрительные модели потребления. Вероятно, алгоритм был разработан для выявления рабочих-мигрантов, которые часто живут вместе, чтобы сэкономить деньги. В некоторых местах полиция считает их неуловимой и часто бедной группой, которая может принести преступность в сообщества.
После того, как установлены показатели и запущены предупреждения, сотрудники полиции не обладают достаточной гибкостью, централизуя контроль. Согласно экспертам и отчетам общественной полиции, их оценивают за их быстроту реагирования на автоматические сигналы тревоги и эффективность в предотвращении протестов.
***
Возвращаясь к заявлению, что Китай полностью перешёл на систему «умных» судов с искусственным интеллектом, хотелось бы сделать некоторые выводы их прочитанного. Может показаться, что в КНР создали ИИ, который рассматривает дела и выносит судебные приговоры. Если внимательно прочитать текст, можно сделать вывод, что не существует цифрового судьи, который рассматривает дела и выносит решения. «Умная» судебная система действительно использует большие данные и машинное обучение, чтобы помочь живому судье быстро находить похожие дела прошлых лет, предлагать возможные статьи закона и быстро генерировать тексты решений и связанных с ними судебных документов. Но ИИ не принимает решения за судью. Система построена таким образом, что в случае возникновения разногласий между судьей и искусственным интеллектом судья обязан внести в систему объяснение своего решения. Это сделано не для замены живого судьи электронным, а для снижения уровня коррупции и необоснованных решений.
Тем не менее, с внедрением системы «умного» суда слушания теперь могут проводиться с помощью видеоконференцсвязи, коллегии судей могут совещаться удаленно, судебные протоколы заполняются машинами с автоматическим распознаванием речи, доказательства и улики загружаются онлайн, судебные решения публикуются на едином портале, а, например, конфискованное имущество уходит с молотка прямо в режиме реального времени.
То же относится и к использованию ИИ в работе других правоохранительных органов Китая. Они разворачивают систему интеллектуального предсказания, чтобы остановить подозреваемых до совершения преступления. Внедрение ИИ – это отличная возможность снизить нагрузку на живых сотрудников. Работники смогут поручать искусственному интеллекту простые задачи, а у самих появится шанс сосредоточиться на решении более сложных.
Китай недавно заявил, что планирует к концу 2030 года построить индустрию искусственного интеллекта стоимостью $150 миллиардов. Без сомнения, большая часть этих усилий будет направлена на борьбу с преступностью и инакомыслием.
Е. Ларина, В. Овчинский
https://zavtra.ru/blogs/kitaj_sudebno_-_politcejskaya_vlast_algoritma
20.07.2022 Китайская ИИ – кратия.
КНР стремится к мировому лидерству в области искусственного интеллекта
1 июля 2022 года Институт искусственного интеллекта (ИИ) в Хэфэе, в китайской провинции Аньхой, заявил, что разработал программное обеспечение, которое может измерять лояльность членов коммунистической партии (КПК).
Институт опубликовал видео под названием «Панель умного политического образования», чтобы похвастаться своим программным обеспечением для «чтения мыслей», которое, по его словам, будет использоваться на членах партии, чтобы «еще больше укрепить их решимость быть благодарными партии». На видео было видно, как член КПК просматривал онлайн -материалы, пропагандирующие политику партии, в киоске, где, по словам института, его программное обеспечение ИИ отслеживало его реакцию, чтобы увидеть, насколько он внимателен к мыслительной деятельности партии.
Пост, однако, был удален вскоре после того, как вызвал общественный резонанс среди китайских пользователей сети.
Эксперты отметили, что инженеры-программисты в Китае работают над программой распознавания лиц, которая идентифицирует людей, когда они носят маску, с 6 марта 2020 года. Они использовали передовые технологии для расширения возможностей своего партийного государства. Китай перешел от раннего распознавания лиц к программам ИИ, которые пытаются проникнуть в мозг и умы.
Так называемое программное обеспечение для чтения мыслей — это всего лишь новейшее цифровое управление, которое внедрил Китай.
Сообщается, что Китай уже давно внедрил распознавание лиц в Синьцзяне, чтобы следить за этническими уйгурами, а в последние годы усилил свое наблюдение с помощью программного обеспечения «один человек, один файл».
Американские и тайваньские СМИ сообщают, что в конце 2021 года власти провинции Хэнань запустили аналогичную систему для отслеживания тех, кого они считают «подозрительными» журналистами, иностранными студентами.
Китайская интернет-газета The Paper сообщила, что школа коммунистической партии в Сычуани еще в 2017 году разработала «Умное красное облако», которое уже могло отслеживать реакцию членов партии на ее политическое образование и «рассчитывать» их лояльность.
Китайская полиция собирает биометрические данные со зрачков людей, отпечатков пальцев и образцов мочи тех, кто находится под стражей, чтобы усилить то, что он назвал «точным, но жестким» наблюдением.
Широкое применение в Китае технологий ИИ стимулирует инновации в этом секторе, согласно результатам недавнего исследования, проведенного Мартином Берахой, доцентом экономики Массачусетского технологического института, и тремя другими учеными из Гарвардского университета и Лондонской школы экономики. Их исследование пришло к выводу, что в то время как новые технологии укрепляют автократическую власть, а автократический спрос стимулирует инновации, «эта взаимная выгода может даже привести к долгосрочным, устойчивым инновациям в области ИИ в Китае, создав то, что они называют «ИИ - кратией».
«В процессе получения этого государственного контракта они ИИ-фирмы в Китае получают доступ к этим данным, что позволяет им, конечно, внедрять инновации для государственного приложения, которое обычно связано с общественной безопасностью или предотвращением преступлений и т.п. Это распространилось на их коммерческие инновации, потому что потенциально они могут использовать одни и те же правительственные данные, либо, если это ограничено, они могут использовать те же алгоритмы, которые были обучены на этих данных, для разработки коммерческих продуктов, которые используются в частном секторе», — сказал Бераха «Голосу Америки» (09.07.2022).
Часть I. Новые возможности боевого китайского ИИ
В выпуске 18 от 30 июня 2022 года China AI and Autonomy Report, информационный бюллетень, публикуемый CNA, обсуждается использование беспилотных систем и ИИ для помощи в проведении внезапных атак в глубоководных боевых действиях. Первое в КНР беспилотное надводное судно водоизмещением более 100 тонн провело свои первые автономные ходовые испытания. Сообщается, что исследователи КНР разработали модель ИИ для использования в космической войне, а инженеры Корпорации авиационной промышленности Китая разработали беспилотный грузовой самолет, соответствующий китайским правилам гражданской авиации. Газета South China Morning Post сообщает, что КНР развила суперкомпьютерные мощности почти на уровне США. КНР полностью одобрила план «East Data, West Computing», предусматривающий создание 10 вычислительных центров.
The PLA Daily, официальная газета НОАК, опубликовала статью под названием «Достижение победы в морских глубинах, необходимость научного понимания и понимания боевой ценности глубоководного космоса», в которой обсуждается важность беспилотных систем и ИИ в глубоководные операции. Согласно статье, глубокое море является «новой высотой для захвата инициативы в войне» из-за его особой природной среды и важного стратегического положения.
В статье сообщается, что операции в глубоком море представляют собой формирующийся оперативный тип, который становится все более важным с развитием глубоководных технологий, сенсорных технологий, коммуникационных технологий и ИИ. Согласно статье, «новые платформы и оружие, такие как безэкипажные подводные аппараты, подводное предварительно размещенное оружие и иностранные военные базы, приведут к реконфигурации морских боевых систем». В статье делается вывод о том, что глубоководные операции приведут к новой тактике, проводимой из глубоководной области, включая засады, мобильные прорывы, дальние атаки, междоменные атаки и перехваты с близкого расстояния.
Фактически способность проводить внезапные атаки станет первостепенной особенностью глубоководных операций за счет интегрированного сочетания беспилотных систем, сенсорных сетей и каналов связи. В статье говорится, что глубоководные заранее размещенные системы вооружения могут быть предварительно развернуты в ключевых морских районах и на водных путях задолго до начала операции и активированы дистанционно для проведения внезапных атак. Глубоководным операциям, проводимым преимущественно в открытом океане, будет способствовать отсутствие политических границ и возможность развертывания систем на большой площади и в разных конфигурациях, а также сложность обнаружения глубоководных подводных аппаратов.
Глубоководные операции будут поддерживаться интеллектуальными сетевыми информационными системами, которые высоко интегрированы и адаптируются к времени и месту операций, а также к действиям противника. Глубоководные системы сочетают в себе способность проводить ситуационную осведомленность, быструю мобильность, постоянное «праздношатание», маскировку и точечные удары с низкими требованиями к защите и низкой стоимостью. В результате глубоководные системы могут достичь технологической внезапности, способной нанести поражение системам противника.
Эволюция пилотируемых и беспилотных систем
PLA Daily опубликовала статью под названием «Новая точка опоры для использования формы войны», в которой обсуждается роль взаимодействия человека и машины в будущих войнах. Согласно статье, «совместные пилотируемые и беспилотные операции переписали современную модель поля боя», а использование большого количества автономных беспилотных систем «изменит систему боевых сил», что приведет к новым конфигурациям и возможностям для использования синергии между пилотируемыми и беспилотные системы.
В статье утверждается, что по мере развития технологий гибкие конфигурации «человек-машина» и «машина-машина» будут становиться все более распространенными. На примере концепции «лояльного ведомого» делается вывод о том, что использование новых пилотируемых/беспилотных боевых режимов станет эффективным способом поддержания превосходства в воздухе и что эти режимы представляют собой тенденцию развития современной воздушной войны.
В статье также говорится, что с использованием облачных систем данные от оружейных систем и датчиков в нескольких доменах могут быть объединены и проверены в рамках единой структуры, что приведет к функциональной совместимости между пилотируемыми и беспилотными системами за счет более широкого обмена данными в реальном времени и общей операционной картины.
Пилотируемые и беспилотные системы, работающие в рамках этой структуры, будут характеризоваться распределенными системами управления, действующими на более широкой территории, чем текущие операции. Рост распределенных командных систем также приведет к известности беспилотных технологий роя из-за их низкой стоимости и эксплуатационной гибкости. В роевых операциях отдельные системы смогут осуществлять планирование миссии и операции независимо друг от друга, при этом потеря какой-либо одной платформы или системы не повлияет на производительность системы в целом.
Первое беспилотное судно водоизмещением более 100 тонн в КНР проходит первоначальные автономные ходовые испытания. 7 июня 2022 года Китай провел первые автономные ходовые испытания крупнейшего на материке беспилотного судна. В отчете CCTV-7, официальной китайской телевизионной станции, посвященной военным вопросам. говорится, что успешные испытания автономной навигации в водах у Чжоушань, провинция Чжэцзян, представляют собой «прорыв в китайской беспилотной и автономной судовой навигации и технологии« умной кабины »». Источники СМИ КНР сообщают, что 40-метровый тримаран имеет водоизмещение 200 тонн, максимальную скорость хода более 20 узлов, способность нормально работать при волнении моря 5 баллов (определяется как «грубое», при 2,5- волны до 4 метров), а также возможность безопасного плавания в условиях волнения 6 баллов (определяемых как «очень бурное» при волнении от 4 до 6 метров). Источники СМИ КНР не присвоили судну ни названия, ни бортового номера. Первоначальные морские испытания включали два навигационных маршрута, которые в сумме собирал данные за три часа. Сообщается, что следующие ходовые испытания будут посвящены «предотвращению столкновений».
Скриншот из видео CCTV-7, показывающий, как безымянное судно проводит свои первые автономные ходовые испытания недалеко от острова Паньжи, Динхай, город Чжоушань, провинция Чжэцзян. Источник: CCTV-7: Утренний отчет национальной обороны , 9 июня 2022 г..
Согласно отчету, опубликованному базирующейся в Шанхае газетой Xinmin Evening News, компания Zhejiang Beikun Intelligent Technology Co., Ltd. вместе с 40 другими организациями участвовала в разработке и испытаниях судна, которые начались в 2015 году. В отчете говорится, что целью проекта было «разработать беспилотный и автономный дизайн 100-тонного судна, которое может осуществлять навигацию в открытом море с низким уровнем шума и высокой скрытностью». Ключевые технологические препятствия, преодоленные для проведения первых автономных ходовых испытаний, согласно отчету, включают «низковольтную гибридную интегрированную силовую технологию с переменной скоростью, интегрированную технологию датчиков и мачты, а также технологию автономного управления навигацией». Сообщается, что до ходовых испытаний в июне 2022 года судно совершило около 30 испытательных рейсов общей протяженностью более 1000 морских миль на озере Поянху в провинции Цзянси. Следует отметить, что глава Zhejiang Beikun Intelligent Technology Co., Ltd. Ма Хайфунг заявил, что первые автономные ходовые испытания прошли успешно.
Китайская система ИИ для имитации космической войны
Как сообщает газета South China Morning Post, в статье, написанная группой исследователей из Шанхайского института аэрокосмических систем и опубликованной в журнале КНР Aerospace Shanghai 25 апреля 2022 года, обсуждались исследования, связанные с созданием системы ИИ, используемой в моделировании космических войн. В моделировании участвовали три спутника, пытающиеся захватить ценный спутник. Обе стороны неудачно выступили в первых 10 000 раундов тренировок, но наступательная команда из трех спутников смогла научиться быстрее, чем ценный спутник, и заняла выгодную позицию после 20 000 раундов. Пережив неоднократные поражения, ценный спутник научился разрабатывать контрмеры, чтобы победить три спутника. Несмотря на это достижение, после 220 000 выстрелов наступательные спутники снова начали захватывать преимущество.
КНР проводит полет большого грузового БПЛА
По сообщению государственных СМИ КНР, Китайская авиационная промышленная корпорация (AVIC), государственный оборонный конгломерат, успешно завершила 27-минутный первый полет беспилотного грузового самолета TP500 18 июня 2022 года в центральной провинции Хубэй. По данным AVIC, TP500 производится Первым авиационным институтом AVIC и является первым крупным беспилотным грузовым самолетом в Китае, произведенным в соответствии с китайскими правилами гражданской авиации. Самолет имеет максимальную дальность полета 1800 км и может нести полезную нагрузку 500 кг на дальность 500 км.
По данным Aviation Week Intelligence Network, полет TP500 — не первый беспилотный грузовой самолет, которым управляют предприятия КНР. В 2018 году Китайская академия аэрокосмических электронных технологий управляла беспилотным FH-98, созданным на основе Y-5, служебного биплана, впервые построенного в 1957 году. В 2017 году Китайская академия наук управляла беспилотным самолетом AT200, созданным на основе Pacific Aerospace P750XL новозеландского производства. Оба самолета могли перевозить полезную нагрузку до 1500 кг.
TP500 на рулежной дорожке. Источник: Лю Сюнь, «Первый в Китае крупный беспилотный грузовой самолет CCAR TP500 совершил первый полет», CGTN, 20 июня 2022 г.
КНР разрабатывает новый экзафлопсный суперкомпьютер наравне с США
Южнокитайская газета Morning Post опубликовала статью под названием «Китайский суперкомпьютер становится мировым лидером благодаря модели искусственного интеллекта масштаба мозга», в которой сообщается, что КНР разработала суперкомпьютер наравне с первым в мире экзафлопсным суперкомпьютером Frontier, который был разработан Министерство энергетики США. В мае 2022 года Frontier был признан самым быстрым суперкомпьютером в мире с общей производительностью 1,1 эксафлопса (экзафлопс — это показатель производительности суперкомпьютера, равный 10 18 операций в секунду).
Суперкомпьютер PRC, получивший название New Generation Sunway Supercomputer, по-видимому, является частью семейства суперкомпьютеров Sunway и является продолжением суперкомпьютера Taihu Light, базирующегося в Национальном суперкомпьютерном центре в Уси, провинция Цзянсу. Намерение создать эксафлопсное продолжение Taihu Light не является полной неожиданностью, о чем сообщил веб-сайт The Next Platform в феврале 2021 года.
Использование нового суперкомпьютера обсуждалось в документе под названием «BaGuaLu: нацеливание на предварительно обученные модели масштаба мозга с более чем 37 миллионами ядер», который был представлен на виртуальной встрече Принципов и практики параллельного программирования 2022, международной конференции, организованной США Ассоциацией вычислительной техники в апреле 2022 года.
Статья о китайском суперкомпьютере была написана командой из 14 профессоров, студентов и исследователей из Университета Цинхуа, лаборатории Чжэцзян и гиганта электронной коммерции Alibaba. Согласно статье, суперкомпьютер имеет производительность 1,002 эксафлопса, что немного меньше, чем у суперкомпьютера Frontier. Суперкомпьютер Sunway нового поколения использовался для запуска модели искусственного интеллекта BaGuaLu, которая способна обучать модели со 174 триллионами параметров — число, которое, согласно статье, «соперничает с количеством синапсов в человеческом мозгу». Следует отметить, что в другом исследовании утверждалось, что человеческий мозг содержит даже больше синапсов, в том числе, по одной оценке, 600 триллионов синапсов.
Строительство в Китае 10 региональных узлов вычислительной мощности
КНР официально запускает проект «East Data, West Computing». The People’s Daily, официальная газета КПК, сообщает, что центральное правительство КНР официально запустило проект «East Data, West Computing». В феврале 2022 года правительство КНР одобрило строительство 10 региональных узлов вычислительной мощности в Пекине, Тяньцзине и Хэбэе, дельте реки Янцзы, Гуандуне, Гонконге и районе залива Макао, Чэнду и Чунцине, Внутренней Монголии, Гуйчжоу, Ганьсу, и Нинся. Как обсуждалось в Информационном бюллетене 10, проект направлен на хранение и обработку данных из восточных регионов Китая в компьютерных центрах западных регионов Китая. По данным правительства КНР, восточный Китай, где расположено большинство центров обработки данных, имеет ограниченные земли, энергию и ресурсы, что делает его «неустойчивым» для развития больших центров обработки данных. Однако западный Китай предлагает богатые ресурсы, особенно возобновляемые источники энергии, и «имеет потенциал для развития центров обработки данных для удовлетворения потребностей в вычислительной мощности в восточном регионе». Ежегодные инвестиции в проект составляют около 400 млрд юаней.
Согласно статье, в 2021 году в Китае было 5,2 миллиона стоек в центрах обработки данных, при этом на китайские компании приходилось 74 процента рынка серверов. Среднегодовой темп роста стоек центров обработки данных в Китае за последние пять лет превысил 30 процентов, и ожидается, что в течение 14-й пятилетки, охватывающей 2021–2025 годы, годовой темп роста составит 20 процентов. При этом общее энергопотребление дата-центров Китая в 2020 году составило 93,9 млрд киловатт-часов, при выбросах углерода 64,64 млн тонн. Ожидается, что к 2030 году общее потребление энергии вычислительными центрами Китая достигнет около 380 млрд кВтч.
Часть II. ИИ как ключевое направление экономического развития Китая
Китайское правительство активно использует технологии ИИ и признает их ключевым направлением будущего экономического развития. На технологиях ИИ основана создаваемая в Китае система контроля над поведением граждан (система социального доверия), призванная обеспечить социально-политическую стабильность и гарантию, что КПК останется у власти. Наконец, Китай делает ставку на ИИ как основу для развития уникальных преимуществ в военно-технологической сфере.
В этой связи интересен опубликованный доклад Сьюзен Нин и Хана Ву «Законы и правила: ИИ, машинное обучение и большие данные, 2022 | Китай» (AI, Machine Learning & Big Data Laws and Regulations | China). В докладе указывается, что ИИ должен быть контролируемым; заслуживать доверие; повышать благополучие; обеспечивать честность и справедливость; защищать приватность и безопасность; повышать этическую грамотность. Люди должны иметь право выбора: пользоваться услугами с применением ИИ или прекращать работу с ними в любое время. В докладе не анализируется военная сфера использования ИИ, но рассматривается, какие же китайские законодательные акты гарантируют безопасность применения ИИ в гражданской сфере.
Тренды
Китайская академия наук признает несколько ключевых технологий ИИ, которые достигли прорывов и определили конкретные области применения, включая компьютерное зрение, обработку естественного языка, интеллектуальное адаптивное обучение (которое предоставляет каждому учащемуся индивидуальное образование, соответствующее его характеру), коллективный разум, автоматизированные беспилотные системы, интеллектуальные чипы и интерфейсы мозг-компьютер. Среди отраслей, внедряющих ИИ в Китае, на защиту безопасности, финансы и маркетинг приходится соответственно 53,8%, 15,8% и 11,6% от общего объема рынка отраслей, использующих ИИ в 2018 году. За ними следуют сельское хозяйство, услуги, розничная торговля, производство, образование и другие. В дополнение к развитию технологий ИИ, спрос на чипы ИИ, которые служат базовой поддержкой вычислительных мощностей, вносит значительный вклад в увеличение масштабов индустрии ИИ.
Китайское правительство признает ИИ важным компонентом национальной стратегии и планирует в ближайшее время создать комплексную систему его регулирования. ИИ является одним из семи ключевых направлений цифровой индустриализации в 14-м пятилетнем плане, интеллектуальная трансформация также будет в центре внимания государственных предприятий в ближайшие несколько лет.
Стремясь усилить роль ИИ в поддержке и руководстве экономическим и социальным развитием, Министерство науки и технологий КНР выпустило несколько официальных документов, которые демонстрируют поддержку на государственном уровне провинциальным и муниципальным органам власти в создании собственной национальной пилотной зоны инноваций и разработок нового поколения в области ИИ. В таких условиях все больше традиционных предприятий начинают увеличивать инвестиции во внутренние исследования и разработки, что откроет возможности для дальнейшего развития рынка ИИ, а расходы Китая на ИИ продолжат расти в ближайшие пять лет. Согласно прогнозу IDC, при непрерывном внедрении приложений ИИ китайский рынок будет расти совокупными ежегодными темпами 24,4%.
С 2020 года вспышка COVID-19, вызвавшая хаос на рынках и в отраслях всего мира и Китая в том числе, также открыла беспрецедентные возможности для индустрии ИИ и больших данных. В ответ на необходимую, но распространенную политику борьбы с пандемией в Китае на рынке наблюдался высокий спрос на продукты и услуги, основанные на ИИ и технологии больших данных, такие как платформы для удаленной работы и онлайн-курсов, медицинские исследования и диагностика на основе больших данных и ИИ, решения по борьбе с пандемией на основе больших данных - создание единой национальной платформы “Кодекс здоровья”, которая отслеживает состояние здоровья людей в целях борьбы с пандемией, а также удобные интернет-сервисы, основанные на ИИ, такие как доставка еды, онлайн-покупки, интернет-больницы и другие. Кроме того, одним из основных событий в области ИИ в 2021 году стало применение ИИ в судебных процессах, включая применение компьютерного распознавания изображений, распознавания голоса и т.д.
Из-за беспрецедентной потребности в ИИ в индустрии больших данных и огромного спроса на данные для машинного обучения законность данных стала ключевым юридическим вопросом, возникающим в связи с внедрением ИИ и машинного обучения. Например, Закон о защите личной информации Китайской Народной Республики (PIPL) предусматривает несколько правовых оснований, которые организация должна соблюдать при сборе личной информации. Также распространенной проблемой для операторов ИИ является то, что они могут непреднамеренно нарушать законы и правила о защите данных при покупке данных для своих систем ИИ из-за трудностей с обеспечением того, чтобы передача данных и последующая обработка подпадали под действие согласия субъектов данных.
С другой стороны, вопросы законности, справедливости и этики при внедрении ИИ сами по себе все чаще вызывают озабоченность соответствующих органов власти и отраслевой практики. В результате были обнародованы правила и руководства, специально направленные на законное использование и этические риски ИИ, такие как Руководство по предотвращению этических рисков безопасности ИИ, выпущенное Национальным техническим комитетом по стандартизации информационной безопасности (TC260).
Собственность и защита
Владение алгоритмом ИИ
В настоящее время компании в Китае в основном подают заявки на авторские права на программное обеспечение и/или патент, чтобы заявить о праве собственности на алгоритм ИИ и защитить его от незаконного нарушения.
В соответствии с Правилами защиты компьютерного программного обеспечения (Правила), которые непосредственно регулируют защиту авторских прав на компьютерное программное обеспечение в Китае, алгоритм ИИ, который, по сути, представляет собой математический метод, разработанный и реализованный с использованием языка компьютерного программирования, защищен авторским правом и может быть зарегистрирован. Между тем, авторское право на программное обеспечение будет распространяться только на исходную программу. Если алгоритм ИИ обучается и развивается с помощью машинного обучения, обновленная версия отдельно защищается авторским правом, и новая регистрация может быть инициирована соответствующим правообладателем в качестве доказательства prima facie обладания такими авторскими правами.
Владение данными
В настоящее время в Китае нет конкретных законов, четко определяющих право собственности на данные, в то время как общество достигло консенсуса в отношении признания активов данных. По определению, активы данных являются экономическим ресурсом, конкурентным ресурсом или правом собственности в форме данных. Учитывая, что на различные типы данных (личная информация, важные данные и т.д.) распространяются особые ограничения на сбор, обработку, хранение и совместное использование, на практике сложно согласовать владение данными. Например, поскольку владение является фундаментальной предпосылкой торговли, по-прежнему существует призыв провести четкую границу между субъектами персональных данных (ПД) и компаниями в отношении владения персональной информацией, чтобы установить благоприятное управление данными в обществе.
Традиционно законодатели структурируют правовую базу для защиты личной информации, основываясь на ведущей законодательной позиции абсолютной защиты прав субъекта ПД на неприкосновенность частной жизни и личных прав. Таким образом, со ссылкой на Закон Китая о кибербезопасности (CSL) и его вспомогательные меры, обработка личной информации может быть предоставлена только с авторизованного согласия субъекта ПД. Однако чтобы облегчить свободный поток обмена данными в китайской экономике, академические эксперты и законодатели пришли к общему мнению, что права личности имеют не только личные интересы, но и имущественные, последние из которых люди имеют право передавать при определенных обстоятельствах. Таким образом, субъекты ПД теоретически имеют право реализовывать свои имущественные интересы в отношении личной информации при условии, что это не повлечет за собой нарушения общественных интересов, и с санкционированного или явного согласия субъекта ПД. Учитывая право субъекта ПД на реализацию имущественных интересов и почти исключительное право контролировать свою личную информацию (т.е. определять способ предоставления, использования и обработки), ученые и законодатели считают субъектов ПД владельцами своей личной информации.
Между тем, помимо самой личной информации, компании обеспокоены тем, что они владеют анонимизированной личной информацией, которая технически не имеет никакого отношения к субъектам ПД и не может быть отслежена после удаления идентифицируемой информации. В соответствии с действующей правовой структурой для защиты личной информации от незаконного предоставления третьим лицам в соответствии с CSL, PIPL и уголовным законодательством, а также с учетом технического эффекта анонимизации, до тех пор, пока анонимизированная личная информация не может идентифицировать субъектов ПД, компании могут иметь право на определенный уровень владения этой анонимизированной личной информацией, а также содействовать обмену данными.
В целом компании могут пытаться претендовать на владение данными, не относящимися к личной информации, а некоторые судебные дела дополнительно подтверждают конкурентные права операторов платформ на пользовательские данные, которыми они владеют, с точки зрения Закона о борьбе с недобросовестной конкуренцией. Однако в соответствии с Законом о защите государственной тайны, данные, признанные государственной тайной, находятся в ведении государственных секретных органов, и поэтому компании не могут заявлять о праве собственности на такие данные. Кроме того, в отношении важных данных, часто определяемых как данные, разглашение которых может напрямую повлиять на национальную безопасность, общественные интересы и законные интересы граждан или организаций, определенные правила (действующие или в форме проекта) налагают различные ограничения на их обработку. Например, CSL налагает требования к локализации данных и оценке безопасности при трансграничной передаче важных данных операторами критически важной информационной инфраструктуры, в то время как Закон о безопасности данных предусматривает требования к оценке безопасности и отчетности при обработке важных данных в целом и оберегает секретную схему защиты важных данных.
Антимонопольное законодательство и законы о конкуренции
За последнее десятилетие ИИ значительно расширил возможности и реформировал коммерческий мир, особенно в онлайн-торговле. В соответствии с антимонопольным законом Китая (AML) конкурентам запрещено заключать монопольные соглашения об установлении цен, лимитировании производства или продаж, разделе рынка, бойкоте или других ограничительных действиях. В соответствии с временными положениями о запрете монопольных соглашений фактические согласованные действия конкурентов при отсутствии явного соглашения или согласия также запрещены.
В соответствии с антимонопольными правилами для экономики платформ (Руководящими принципами) согласованное поведение может также относиться к поведению, при котором предприятия явно не заключают соглашение или принимают жесткое решение, а координируются с помощью данных, алгоритмов, правил платформ или других средств. Распространенное мнение заключается в том, что алгоритмы ценообразования контролируются конкурентом и не должны освобождать от антимонопольной ответственности. Таким образом, антимонопольная ответственность зависит от принятия алгоритмов ценообразования. Если конкуренты явно согласились принять тот же или аналогичный алгоритм ценообразования и привести к аналогичным моделям ценообразования, такие действия могут рассматриваться как запрещенное соглашение об установлении цен в соответствии с AML. Если конкуренты не имеют явного согласия, но в одностороннем порядке и постоянно адаптируют алгоритмы, которые прогнозируют и согласуют цены конкурентов, может иметь место фактическая ситуация, которая также представляет собой запрещенное согласованное действие.
Алгоритмы также приводят к ответственности AML за злоупотребление доминирующим положением на рынке путем дискриминационного ценообразования. В связи с быстрым развитием в Китае интернет-гигантов в таких отраслях, как доставка еды на дом, продажа билетов в кино и бронирование гостиниц, платформы обвиняют в ценовой дискриминации населения. Алгоритмическая ценовая дискриминация означает, что один и тот же продукт оценивается по-разному в зависимости от индивидуальных особенностей каждого покупателя, особенно благодаря ИИ, собирающему большие данные потребителей.
Статья 19 Временных положений о запрете злоупотребления доминирующими позициями на рынке прямо запрещает коммерческим операторам с доминирующим положением предлагать контрагентам дискриминационное отношение к цене, объему, качеству, скидкам и другим условиям без обоснованных причин. Однако этот запрет ценовой дискриминации распространяется только на операторов с доминирующими позициями на рынке в соответствии с AML. Кроме того, в Руководящих принципах также устанавливается “дифференцированное ценообразование на основе больших данных и алгоритмов” в качестве одного из примеров злоупотребления доминирующим положением на рынке против AML.
При продаже товаров и оказании услуг потребителям через интернет на все сделки распространяется Закон КНР «О защите прав потребителей». Предприниматели обязаны соблюдать все требования данного закона, а также предоставлять потребителям достоверную и полную информацию о товаре или услуге.
В августе 2020 года Министерство культуры и туризма опубликовало и внедрило Временные положения об управлении услугами онлайн-туристического бизнеса, которые запрещают ценовую дискриминацию путешественников с помощью больших данных и других технических мер.
Применение больших данных вызывает опасения по поводу злоупотребления доминирующими позициями на рынке данных со стороны крупных интернет-платформ. Теоретически гиганты интернет-платформы могут воспользоваться масштабом платформы для привлечения и сбора большего количества пользовательских и рыночных данных, которые впоследствии будут использоваться для дальнейшего повышения конкурентоспособности платформы; таким образом, доминирующее положение платформы еще больше усиливается за счет сетевого эффекта. В соответствии с Руководящими принципами, для определения доминирующей позиции платформы на рынке, факторы оценки должны включать в себя разнообразие мест проживания пользователей, легкость доступа к платформам, привычки пользователей и т.д.
В статье 18 Закона о борьбе с отмыванием денег также говорится, что при определении доминирующей позиции на рынке также должны учитываться факторы конкурентного преимущества, такие как технологическая конкурентоспособность. Поэтому нельзя исключать, что контроль над большими объемами ценных данных на конкретном рынке может способствовать тому, что ведущее предприятие будет идентифицировано как занимающее доминирующее положение на рынке. Такие предприятия должны быть особенно осторожны при совершении действий, которые AML признает злоупотреблением, связанным с доминирующим положением, например, отказ от сделки, ценовая дискриминация, необоснованные торговые ограничения и другие.
Совет директоров и управление
Одним из ключевых вопросов, связанных с внедрением ИИ в управлением компаниями, является целостность автоматизированного процесса принятия решений. Что касается сценария управления, автоматизированное принятие решений может более непосредственно и часто влиять на интересы акционеров и функционирование бизнеса в целом. Факторы, которые могут воздействовать на целостность автоматизированного принятия решений, включают, помимо прочего, законность сбора данных, качество набора данных, подотчетность алгоритма, потенциальную предвзятость в применении ИИ и т.д.
В соответствии с Законом о компаниях Китая директора, руководители и высший управленческий персонал обязаны соблюдать положения законов и административных правил и устава компании, а также нести фидуциарные обязанности. Поэтому, когда совет директоров внедряет ИИ для облегчения своей повседневной работы и принятия решений, он, безусловно, должен выполнять такие обязанности и предусматривать соответствующие последствия. И, если есть какое-либо неблагоприятное воздействие на акционеров или всю бизнес-операцию, ответственность несет правление или собрание акционеров.
Для снижения соответствующих рисков с технической точки зрения обеспечение отслеживаемости результатов автоматизированного принятия решений будет главным приоритетом. С точки зрения управления, компаниям рекомендуется оценить потенциальные риски в бизнесе, прежде чем внедрять автоматизированную систему принятия решений, ограничить сферу применения такой системы в случае существенного негативного воздействия и создать механизм проверки вручную для обеспечения подотчетности окончательных решений. Кроме того, чтобы нейтрализовать потенциальную предвзятость, которая может быть заложена в алгоритм или развиться с его помощью, компаниям также рекомендуется создать комитет по этике ИИ для надзора за внутренним использованием ИИ.
Советам директоров рекомендуется проводить комплексную проверку перед внедрением конкретной технологии ИИ, которая будет помогать в процессе принятия решений. Им может потребоваться подробная информация о принципе работы, рабочем назначении, базовой логике алгоритма и работе самой технологии. Ожидается, что при применении ИИ и больших данных советы директоров обязаны проявлять осторожность. Им, возможно, сначала потребуется убедиться, что данные, используемые для обучения системы ИИ, являются точными и регулярно проверять результаты, выдаваемые ИИ, чтобы избежать отклонений в процессе принятия решений.
Правила и вмешательство правительства
В последние годы в Китае было разработано множество законов и правил, которые касаются ИИ, а также правил, регулирующих конкретные вопросы, связанные с ИИ, относящиеся к:
Большим данным
- Закон о безопасности данных, опубликованный в июле 2021 года, напрямую касается национальной стратегии развития больших данных и повышения их безопасности.
- Правила администрирования безопасности сетевых данных в качестве вспомогательного положения разъясняют конкретные вопросы в области управления безопасностью данных, а также уточняют и дополняют основные принципы и системы в высшем законе.
- Меры по оценке безопасности трансграничной передачи данных и регулированию вопросов оценки безопасности вывода данных, в которых более тщательно реализуется концепция всеобъемлющего и строгого регулирования, также предполагают соответствующие обязательства по соблюдению требований для предприятий, участвующих в использовании данных.
- Технология информационной безопасности – управление безопасностью больших данных, Технология информационной безопасности – руководство по идентификации критически важных данных и другие, а также касающиеся безопасности больших данных в конкретных секторах, такие как Технология информационной безопасности – Руководство по безопасности медицинских данных являются рекомендуемыми национальными стандартами, касающимися услуг и систем больших данных. С 2021 года также приняты соответствующие правила обработки данных в связи с фактическим развитием соответствующих регионов, в которых представлены 12 провинций и городов, таких, например, как Шанхай и Шэньчжэнь.
Защите личной информации и автоматизированное принятие решений
Существуют три всеобъемлющих закона, устанавливающих общие принципы защиты личной информации: PIPL, принятый 1 ноября 2021 года, Гражданский кодекс, опубликованный в мае 2020 года, а также CSL, в которых сформулированы требования к защите личной информации. PIPL предлагает расширить правовую основу обработки личной информации по сравнению с Гражданским кодексом и CSL, чтобы адаптироваться к сложностям экономической и социальной деятельности. С 2019 года, когда несколько департаментов в Китае совместно выпустили объявление об особом режиме незаконного сбора и использования личной информации приложениями, текущая тенденция показала, что обеспечение защиты личной информации приложений продолжает улучшаться. Особенно это касается небольших программ.
Защите потребителей
Необходимо обратить внимание на Руководящие принципы, Закон об электронной торговле и временное положение об управлении онлайн-туристическими бизнес-услугами в отношении запрета ценовой дискриминации, которые рассмотрены выше.
Управлению информационным контентом
Положения об экологическом управлении сетевым информационным контентом, вступившие в силу в январе 2020 года, формулируют требования к моделям предоставления контента, ручному вмешательству и механизмам выбора пользователем в ситуации, когда поставщики сетевого информационного контента продвигают информацию, применяя персонализированные алгоритмы.
Применению ИИ
В декабре 2021 года были выпущены Правила администрирования алгоритмических рекомендаций информационных служб Интернета (Правила алгоритмической рекомендации), предусматривающие специальные правила управления технологией алгоритмических рекомендаций. В этих Правилах выдвигаются конкретные и подробные требования к службам рекомендаций алгоритмов с точки зрения справедливости алгоритмов и управления информационным контентом, а также уточняются рамки “технологии рекомендаций алгоритмов”, принципы регулирования и правила служб рекомендаций алгоритмов, а также конкретная классификация, регистрация, оценка безопасности и другие регулирующие средства. В августе 2021 года выпущена Спецификация для оценки безопасности алгоритмов машинного обучения, которая предусматривает несколько положений об этических и институциональных мерах, заполняя некоторые пробелы в национальных стандартах в области распознавания лиц и биометрической информации, ограничиваясь только техническими мерами.
Автоматизированному вождению
Министерство промышленности и информационных технологий (MIIT) совместно с другими министерствами выпустило пробные административные положения о дорожных испытаниях интеллектуальных подключенных транспортных средств, вступившие в силу в мае 2018 года для регулирования требований к квалификации работников и процедур автоматизированных дорожных испытаний и ответственности за дорожно-транспортные происшествия. Кроме того, более 20 городов приняли свои административные меры для автоматизированных дорожных тестов на вождение. Между тем недавний проект рекомендуемого национального стандарта Проект таксономии автоматизации вождения транспортных средств, опубликованный MIIT 9 марта 2020 года, устанавливает шесть классов автоматизированного вождения (от L0 до L5) и предусматривает соответствующие технические требования и роли автоматизированных систем на каждом уровне. В октябре 2021 года вступили в силу Положения об управлении безопасностью автомобильных данных, которые являются первыми нормативными актами, касающимися данных в автомобильной сфере, и направлены на регулирование важных автомобильных данных и конфиденциальной личной информации. Разработано и представлено Руководство по безопасности при обработке данных об автомобилях. в котором уточняются технические требования к безопасности обработки данных, собираемых различными элементами систем автомобиля. Требования безопасности к данным о сборке автомобилей формально запрашивают комментарии, разделяя данные об автомобилях на несколько типов данных: данные вне автомобиля; данные кабины; эксплуатационные данные; данные отслеживания местоположения; хранение данных на удаленной платформе (не более 14 дней) и т.д.
Финансам
Народный банк Китая и другие финансовые регуляторы совместно выпустили Руководящие заключения по регулированию деятельности финансовых учреждений по управлению активами в апреле 2018 года. В них сформулированы квалификационные требования и обязательства по вмешательству человека в процесс работы ИИ для финансовых учреждений, предоставляющих консультационные услуги по управлению активами на основе технологий искусственного интеллекта. Рекомендуемый отраслевой стандарт -Техническая спецификация по защите личной финансовой информации, - выпущенная Народным банком Китая, также устанавливает требования к финансовым учреждениям по регулярной оценке безопасности внешних автоматизированных инструментов (таких как модели алгоритмов и наборы для разработки программного обеспечения), используемых при обмене и передаче личной финансовой информации. Кроме того, недавно обнародованные Меры по защите прав и интересов потребителей финансовых услуг Народного банка Китая и Спецификация безопасности жизненного цикла финансовых данных также формируют дифференцированные требования к защите безопасности финансовых данных, охватывающих весь процесс жизненного цикла данных на основе классификации их безопасности.
Китай также разработал конкретный план по созданию всеобъемлющего правового режима ИИ. В соответствии с Планом Государственного совета по развитию ИИ нового поколения местные правительства намерены создать правовую, этическую и политическую систему регулирования ИИ к 2025 году.
В октябре 2019 года Национальный комитет по стандартизации информационных технологий Китая объявил о своем плане создания подкомитета по технологиям ИИ для участия в обнародовании национальных стандартов, касающихся технологий ИИ, управления рисками, продуктов, приложений и т.п., что еще раз демонстрирует решимость правительства в усилении регулировании ИИ. Тогда же Специальная рабочая группа по стандартам безопасности больших данных (TC260) выпустила "Белую книгу по стандартизации безопасности ИИ", в которой предлагается система стандартов безопасности ИИ, включающая элементы основополагающих стандартов, моделей данных и алгоритмов, технологий и систем, управления и обслуживания, оценок, а также продуктов и приложений. Кроме того, в августе 2020 года Государственное управление стандартизации, Управление по вопросам киберпространства Китая (CAC) и три других государственных министерства совместно выпустили Руководство по созданию национальной системы стандартизации ИИ нового поколения (Руководство по стандартам ИИ), направленное на создание предварительной национальной системы стандартизации ИИ к 2023 году, охватывающей национальные и промышленные стандарты в восьми областях, а именно: (1) основополагающие и общие стандарты; (2) фундаментальные технологии и продукты; (3) базовые программные и аппаратные платформы; (4) критические общие технологические стандарты; (5) технологические стандарты для критически важных областей; (6) стандарты продуктов и услуг; (7) отраслевые стандарты применения; и (8) стандарты безопасности и этики.
Гражданская ответственность
Оптимизация алгоритмов и применение ИИ в ряде случаев вызывают горячие дискуссии относительно распределения гражданской ответственности. Например, в области автономного вождения споры о праве собственности на ИИ, а также самосовершенствование алгоритма могут вызвать сложные ситуации, требующие от законодателей и ученых поиска дальнейших решений. По сравнению с традиционными дорожно-транспортными происшествиями, субъектами, участвующими в автономном вождении, являются производители автономных транспортных средств, поставщики услуг автономного вождения, продавцы автомобилей, пользователи транспортных средств. В режиме автономного вождения из-за разнообразия субъектов, вовлеченных в возможное правонарушение, причинно-следственная связь между противоправным поведением и последствиями ущерба более неоднозначна, и тем самым ставится под сомнение традиционный принцип ответственности за дорожно-транспортное происшествие. В этом случае, когда происходит авария, которая приводит к жертвам или материальному ущербу, возникает проблема разделения ответственности между водителем-человеком и автономной системой вождения (или, другими словами, конечным ответственным лицом за автономную систему вождения).
В Китае Закон о безопасности дорожного движения (RTSL) был принят в 2003 году и изменялся в 2007, 2011 и 2021 годах соответственно. Последняя редакция вступила в силу 29 апреля 2021 года. 24 марта 2021 года, за месяц до ратификации последней официальной версии, Министерство общественной безопасности опубликовало проект о внесении поправок в Закон о безопасности дорожного движения, чтобы уточнить правила распределения гражданской ответственности за новые формы дорожно-транспортных происшествий, связанных с автономным вождением, и, таким образом, решило добавить Ст.155, в которой впервые на юридическом уровне уточнены соответствующие требования к дорожным испытаниям и проезду транспортных средств с функциями автономного вождения, а также распределение ответственности за нарушения законов и несчастные случаи. Однако Ст. 155 пока официально не обнародована в последней редакции RTSL.
Алгоритмы автономных транспортных средств постоянно оптимизируются; между тем, проблемные вопросы, включая неясное распределение ответственности, дилемму моральных противоречий и риск смещения алгоритма, также соответственно возрастают. Автоматизированные транспортные средства полагаются на взаимодействие человека и компьютера в рамках функции обучения системы, которые не могут считаться надлежащими субъектами подотчетности, в то время как степень участия алгоритма влияет на распределение ответственности.
Кроме того, неконтролируемые дефекты производителей системы ИИ включают в себя, в результате автономного глубокого обучению ИИ и взаимодействия с окружающей средой, дефекты, основанные на независимом суждении системы ИИ. Из-за крайне непредсказуемого характера таких недостатков возложение вины на производителей значительно ослабит стимулы крупных компаний, занимающихся ИИ, к исследованиям и разработкам. Поэтому, возможно, вместо обсуждения того, как распределять ответственность, лучше создать полный набор систем передачи рисков производителю, таких как система обязательного страхования ответственности для автономных транспортных средств, которая потребует от компаний, занимающихся автономным вождением, обеспечения того, чтобы их продукты сбалансировали промышленное развитие и помощь жертвам.
Дискриминация и предвзятость
Массовое применение ИИ и больших данных действительно вызывают опасения по поводу предвзятости, вызванной алгоритмическим вычислительным процессом. Ele.me и Meituan, две ведущие компании по доставке продуктов питания в Китае, столкнулись с критикой условий труда после того, как в широко распространенной статье в сентябре 2020 года было показано, как алгоритмы приложений создают опасную рабочую среду, заставляя водителей работать на пределе своих возможностей, устанавливая строгие сроки доставки и угрожая вычетами из их комиссионных за неудачу.
Поскольку способность алгоритма к самообучению поддерживается огромным объемом данных, генерируемых в каждый момент, компании, занимающиеся доставкой продуктов питания, могут постоянно оптимизировать свой алгоритм, предположительно сокращая среднее время доставки на 10 минут за три года. По данным Ele.me, его система постоянно рассчитывает оптимальные решения для заказов на доставку еды. Она способна определить наиболее подходящего доставщика заказа в соответствии с его маршрутом, местоположением и направлением, а также определить и указать оптимальные маршруты доставки для 10 000 доставщиков в течение одной секунды, если каждый доставщик везет пять связанных заказов по разным адресам. Однако алгоритм не учитывал влияние погоды, дорожных условий и светофоров на время доставки, что иногда приводило к невозможным срокам доставки для водителей. В результате водителям почти всегда приходится ехать не в ту сторону и проезжать на красный свет, что резко увеличивает вероятность дорожно-транспортных происшествий и получения травм.
Еще одна горячая тема, связанная с алгоритмической дискриминацией, относится к явлению, когда цена продукта, которую видят возвращающиеся клиенты, устанавливается намного выше, чем для новых клиентов на те же товары или услуги. По данным Ассоциации потребителей Китая, некоторые компании используют алгоритмы для ценовой дискриминации различных групп потребителей. Например, для VIP-пользователей и обычных пользователей установлены разные цены, при этом VIP-пользователи увидят более высокую цену по сравнению с другими пользователями в результате анализа их потребительских привычек и покупательских возможностей. Некоторые компании применяют сложные правила и алгоритмы продвижения для внедрения настроек ценовой путаницы, чтобы привлечь определенных потребителей, которым трудно рассчитать реальные цены.
Подобно алгоритмической ценовой дискриминации, нерациональная алгоритмическая эксплуатация, вызывающая дискриминацию и предвзятость, по сути, является эксплуататорским злоупотреблением данными. Для решения этой проблемы многие учреждения предприняли усилия, установив этические стандарты для алгоритмов. Например, Китайская академия информационных и коммуникационных технологий выпустила Белую книгу по управлению ИИ (Белая книга CAICT), в которой излагаются этические стандарты использования ИИ, например, алгоритмы должны защищать права личности. В Белой книге CAICT предлагается, чтобы ИИ относился ко всем пользователям одинаково и недискриминационно, и что все процессы, связанные с разработкой ИИ, также не должны быть дискриминационными. ИИ должен обучаться с использованием непредвзятых наборов данных, представляющих различные группы населения, что предполагает учет потенциально уязвимых лиц и групп, таких как инвалиды, пенсионеры, дети и другие.
Поскольку алгоритмическая дискриминация обычно наносит ущерб интересам потребителей, как Закон о защите прав потребителей, так и Закон об электронной коммерции прямо требуют, чтобы бизнес-операторы уважали и в равной степени защищали законные права и интересы потребителей. Закон об электронной коммерции также предусматривает, что в тех случаях, когда бизнес-оператор электронной коммерции предоставляет потребителям поиск результатов для товаров или услуг, основанных на предпочтениях или привычках потребителей, он должен параллельно предоставлять потребителям варианты, которые не ориентированы на их личные характеристики. Аналогичные правила были установлены в PIPL в отношении автоматического принятия решений, что дополнительно требует, чтобы обработчики личной информации обеспечивали прозрачность процесса принятия решений, справедливость и беспристрастность результатов, а также не создавали необоснованного дискриминационного отношения к отдельным категориям лиц в отношении цены и условий транзакции.
Законодатели и ученые изучают решения, позволяющие ограничить возможности алгоритмической дискриминации. Правила алгоритмических рекомендаций знаменуют собой первую попытку CAC регулировать использование алгоритмов, в которых поставщики информационных интернет-услуг обязаны использовать алгоритмы таким образом, чтобы они уважали общественную мораль и этику, и им запрещено устанавливать какие-либо модели алгоритмов, побуждающие пользователей становиться зависимыми или чрезмерно потреблять. Правила призваны помочь компаниям установить внутренний контроль над использованием алгоритмов, а также создать основные правила для защиты прав типичных групп, которые с большей вероятностью могут пострадать или подвергнуться дискриминации со стороны алгоритмов, таких как несовершеннолетние, пожилые люди, рабочие и т.п.
Три подхода к управлению ИИ в Китае
В 2021 году китайское правительство выпустило ряд политических документов и публичных заявлений, которые подкрепляют режим управления ИИ в стране. 4 января 2022 года фонд Сarngie опубликовал об инициативах доклад:
Самые сильные и самые влиятельные шаги в управлении ИИ были предприняты Управлением киберпространства Китая (CAC), относительно новым, но очень влиятельным органом, который пишет правила, регулирующие определенные приложения ИИ.
CAC попала в заголовки газет в августе 2021 года, когда выпустила проект набора из тридцати правил для регулирования алгоритмов интернет-рекомендаций, программного обеспечения, на котором работают все, от TikTok до новостных приложений и поисковых систем. Некоторые из этих правил специфичны для Китая, например, правило, согласно которому алгоритмы рекомендаций «активно распространяют положительную энергию». Но другие положения меняют положение в продолжающихся международных дебатах, например, требование о том, чтобы поставщики алгоритмов могли «давать объяснения» и «исправлять» ситуации, в которых алгоритмы нарушают права и интересы пользователей. Если такие положения будут реализованы на практике, они могут подтолкнуть китайские компании к экспериментам с новыми видами раскрытия информации и методами алгоритмической интерпретации. Это новая область исследований в области машинного обучения.
Вскоре после выпуска правил алгоритмов рекомендаций CAC выступил с гораздо более амбициозной задачей: трехлетней дорожной картой для управления всеми интернет-алгоритмами. Выполнение этой дорожной карты потребует участия многих из девяти регулирующих органов, подписавших проект, включая Министерство науки и информационных технологий (МНИТ).
Второй подход к управлению ИИ возник в Китайской академии информационных и коммуникационных технологий (CAICT), влиятельном аналитическом центре при МНИТ. Активно занимаясь формулированием политики и многими аспектами тестирования и сертификации технологий, CAICT выделил свой метод, сосредоточив внимание на создании инструментов для измерения и тестирования систем ИИ. Эта работа в случае успеха он может заложить основу для более крупного режима управления ИИ в Китае, гарантируя, что развернутые системы будут надежными, надежными и управляемыми.
В июле 2021 года CAICT объединился с исследовательской лабораторией китайского гиганта электронной коммерции JD, чтобы выпустить первую в стране Белую книгу о «надежном ИИ». Уже популярный в европейских и американских дискуссиях термин «заслуживающий доверия ИИ» относится ко многим более техническим аспектам управления ИИ, таким как проверка систем на надежность, предвзятость и объяснимость. То, как CAICT определяет заслуживающий доверия ИИ в своих основных принципах, очень похоже на определения, вышедшие из институтов США и Европы.
CAICT работает с Альянсом индустрии искусственного интеллекта Китая, отраслевой организацией, спонсируемой государством, для тестирования и сертификации различных систем ИИ. В ноябре 2021 года компания выпустила первую партию надежных сертификатов искусственного интеллекта для систем распознавания лиц. CAICT часто рассматривается как представитель влиятельного МНИТ, но руководство МНИТ еще не опубликовало свои собственные политические документы в отношении заслуживающего доверия ИИ.
Наконец, МНИТ выбрало самый легкий из трех подходов к управлению ИИ. Его самые известные публикации были сосредоточены на установлении этических принципов, полагаясь на компании и исследователей, которые контролируют себя в применении этих принципов в своей работе.
В июле 2021 года MНТИ опубликовал руководство, призывающее университеты, лаборатории и компании создавать внутренние комитеты по проверке для надзора и решения вопросов технической этики. Два месяца спустя главный экспертный комитет по ИИ, действующий в рамках MНТИ, выпустил собственный набор этических норм для ИИ, уделив особое внимание вплетению этики во весь жизненный цикл разработки. С тех пор MНТИ поощряет ведущие технологические компании создавать свои собственные комитеты по этике и проверять свои продукты.
Подход MНТИ аналогичен подходу международных организаций, таких как Организация Объединенных Наций по вопросам образования, науки и культуры и Организация экономического сотрудничества и развития, которые опубликовали принципы ИИ и призвали страны и компании принять их.
Как эти три подхода будут сочетаться друг с другом? Китайские министерства и административные органы известны своей конкурентоспособностью друг с другом, они постоянно соперничают, чтобы представить свои инициативы центральному руководству страны в надежде, что они станут избранной политикой партии-государства. В этом конкурсе подход CAC, похоже, имеет явное преимущество: он наиболее зрелый, наиболее соответствующий духу времени в сфере регулирования и исходит от организации с самым бюрократическим весом. Но его подход не может быть успешным сам по себе. CAC требует, чтобы компании могли объяснить, как работают их алгоритмы рекомендаций, а инструменты или сертификаты того, что представляет собой рассматриваемый ИИ, скорее всего, будут получены от CAICT. Кроме того, учитывая обширный и быстро развивающийся характер технологии, многие практические аспекты заслуживающего доверия ИИ впервые появятся в комитетах по этике отдельных компаний, вдохновленных MНИТ.
Трехлетняя дорожная карта для алгоритмического управления дает представление о некотором управленческом сотрудничестве. Хотя CAC явно является ведущим автором, документ содержит новые ссылки на заслуживающие доверия алгоритмы и на компании, создающие комитеты по этике. Дополнения, вероятно, были сделаны по распоряжению двух других министерств. Также могут произойти существенные сдвиги в управленческих структурах, поскольку управление ИИ расширится, чтобы охватить многие промышленные и социальные приложения ИИ. CAC традиционно является регулятором, ориентированным на Интернет, и будущие правила для автономных транспортных средств или медицинского ИИ могут создать возможность для министерства, такого как MНИТ, перехватить бразды правления.
Потенциальное влияние этих регулирующих форм выходит далеко за пределы Китая. Если CAC выполнит определенные требования к алгоритмической прозрачности и объяснимости, Китай будет проводить одни из крупнейших в мире регуляторных экспериментов по темам, которые давно обсуждаются европейскими регуляторами . Способность китайских компаний удовлетворить эти новые требования может привести к аналогичным дебатам в Европе по поводу права на объяснение.
Что касается безопасности, то по мере того, как системы ИИ все глубже вплетаются в ткань вооруженных сил по всему миру, правительства хотят обеспечить надежность, надежность и управляемость этих систем ради международной стабильности.
Елена Ларина, Владимир Овчинский
https://zavtra.ru/blogs/kitajskaya_ii_kratiya
06.04.2021 Как развивается искусственный интеллект?
Мировые тенденции
Искусственный интеллект (ИИ) полон противоречий. Это мощный инструмент, у которого есть потенциал для улучшения человеческого существования. В то же время он угрожает углубить социальный разрыв и лишить работы миллионы людей. Хотя внутренняя суть ИИ носит сугубо технический характер, люди, не являющиеся техническими специалистами, могут и должны понимать основные принципы того, как он работает, и те проблемы, которые он вызывает.
Всемирный экономический форум (ВЭФ) с 6 апреля 2021 г. в рамках своей Экспертной сети организовал обсуждение проблем ИИ. Оно проводится в разделе Стратегическая разведка ВЭФ.
Резкое увеличение финансирования ИИ в последнее десятилетие отражает прогресс в его возможностях. В науке ИИ продвигает исследования в области молекулярных открытий, понимания системной биологии человека и физики всего: от элементарных частиц до галактик. Прикладные инновации ИИ скорее всего улучшат медицину, сделают транспорт более безопасным, а прогнозы погоды более точными.
Исследования ИИ также становятся все более междисциплинарными, поскольку социологи и экономисты, например, смешивают ИИ и методы статистического вывода причинно-следственных связей для развития своих областей. Эти разработки необходимы для повышения доверия к использованию ИИ в ряде сфер, в которых решения или прогнозы «чёрного ящика» могут содержать риски и угрозы для его использования, например, в критической инфраструктуре и кибербезопасности, расширении возможностей ИИ в государственных и частных службах, а также для содействия решению проблем, связанных с обработкой конфиденциальной и личной информации.
Пандемия повлияла на количество стартапов в области ИИ в мире — оно резко снизилось: с 2199 новых компаний в 2019 г. до 692 в 2020-м, следует из отчёта AI Index report 2021 Стэнфордского университета. Несмотря на это, частные инвестиции в сектор увеличились почти на 10% — с $38 млрд до $42 млрд.
Лидерами по объёму привлечённых средств стали технологические компании в области создания при помощи технологий ИИ новых лекарств, в том числе для борьбы с раком, а также проводящие исследования в области молекулярной медицины, отмечается в исследовании Стэнфордского университета. Эти разработки были профинансированы на сумму более $13,8 млрд, что в 4,5 раза больше, чем в предыдущем году. За ними в списке следуют разработчики автономного транспорта ($4,5 млрд) и компании, развивающие образовательные продукты с ИИ ($4,1 млрд).
В сфере ИИ резко возросло значение этики. В период с 2015 по 2020 гг. количество научных статей, в которых упоминаются моральные риски ИИ, значительно увеличилось. Основными темами стали конфиденциальность, прозрачность и объяснимость, следует из отчета университета.
Первая страна по объему инвестиций — США. В 2020 г. американцы вложили в отрасль $23,6 млрд — почти на 20% больше, чем в 2019-м. Изменение по количеству новых компаний в этот же период составило соответственно 647 и 184. Следом за Штатами идут Китай и Индия. Эти страны в прошлом году вложили в ИИ $10 и $0,5 млрд.
Ситуация в России
В России в год пандемии вложения в ИИ сократились почти на четверть — с $26 млн в 2019-м до $18 млн в 2020-м, уточняется в AI index report 2021. Количество новых компаний в РФ снизилось с 12 до трех. По сумме притока частного капитала Россия занимает только 38-е место.
В 2021-м г. началась реализация профильного федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика России».
Государственная поддержка, например, инициатив в области технологий машинного обучения превысит 18 млрд рублей до 2024 г. Кроме того, там заложены средства на внедрение и образовательных программ в вузах, и пилотных проектов по ИИ на средних и крупных предприятиях.
26 марта 2021 г. Президент России Владимир Путин на заседании наблюдательного совета автономной некоммерческой организации (АНО) "Россия - страна возможностей" отметил, что амбициозные задачи по применению новейших разработок в сфере ИИ ставятся во многих сферах, начиная от ЖКХ и здравоохранения и заканчивая космосом.
29 марта 2021 г. на совещании с вице-премьерами председатель Правительства РФ Михаил Мишустин отметил, что стартапы и небольшие IT-компании смогут получить гранты на развитие проектов с использованием технологий ИИ. В 2021 г. на эти цели предусмотрено 1,4 млрд рублей. Правительство утвердило Правила предоставления такой поддержки.
Претендовать на гранты могут как малые предприятия, так и физические лица. Для отбора будут важны новизна разработки и эффективность предлагаемых решений, перспективность внедрения и коммерческой реализации продукта.
Субсидии предусмотрены на разработку новых сервисов и решений и на акселерацию проектов (помощь в развитии проекта и выводе продукции на рынок). Также господдержку можно получить на создание открытых ИИ-библиотек – бесплатных ресурсов, на которых собраны программные коды для работы ИИ. Каждый разработчик сможет воспользоваться такими сервисами и внедрить необходимые коды в свои ИИ-проекты.
Проведением конкурсного отбора претендентов и предоставлением финансирования займётся Фонд содействия развитию малых форм предприятий в научно-технической сфере.
Невозможно совершить прорыв в области ИИ без учёта опыта других стран.
Общий мировой тренд
30 стран разработали национальные стратегии ИИ. На сегодняшний день Соединённые Штаты занимают первое место в области ИИ, но Китай бросает вызов их лидерству. Например, Китай обошел США по числу цитирований научных статей по ИИ. В отсутствие значительных политических изменений как в ЕС, так и в Соединённых Штатах - в частности, ЕС меняет свою систему регулирования на более открытую для инноваций, а Соединённые Штаты разрабатывают и финансируют более активную национальную стратегию ИИ. Вероятно, что ЕС останется позади как США, так и Китая, а Китай будет скорейшими темпами ликвидировать разрыв с США.
Подходы к ИИ в Китае, США и ЕС отражают их относительно сильные стороны - государственный контроль в Китае, голос граждан в Европе и деловую практику в Америке. Стратегия Китая, не связанная с проблемами конфиденциальности, направлена на использование обилия внутренних данных и развитие талантов в области ИИ с помощью централизованных схем и массовых вливаний денег. Нормативные акты и приоритеты Европейского Союза в отношении расходов руководствуются целью укрепления доверия граждан к технологиям на основе ИИ путем защиты конфиденциальности и устранения сбоев на национальных рынках труда. Основа американского подхода - укрепление связей между бизнесом и исследованиями, связанными с ИИ, и поиск способов финансирования базовых НИОКР. Несмотря на усилия по внедрению инноваций в области ИИ, все эти экономики сталкиваются с проблемами. Стратегия Китая в области ИИ продолжает полагаться только на трех технологических гигантов: Baidu, Tencent и Alibaba, которые инвестируют более чем в 100 компаний, занимающихся ИИ. Ресурсы ИИ в Европе географически несбалансированы - четверть талантов в области ИИ в Европе находится в Великобритании, а еще четверть - в Германии и Франции. Брексит представляет серьезный риск для развития ИИ. Более половины талантов в области ИИ в США - иностранцы, поэтому иммиграционная политика неизбежно станет центральным компонентом национальной стратегии ИИ.
Политика США в области ИИ
Администрация Байдена унаследовала набор стратегий ИИ, которые основываются на политике администрации Б.Обамы. Национальный стратегический план исследований и разработок в области ИИ, подготовленный в 2016 г. и обновленный в 2019 г., устанавливал приоритеты федеральных инвестиций в исследования и разработки в области ИИ, а исполнительный указ №13859 запустил американскую инициативу в области ИИ в 2019 г. В соответствии с Законом о Национальной инициативе в области ИИ было создано Управление Национальной инициативы в области ИИ Белого дома. Ему поручено координировать национальную стратегию искусственного интеллекта - потенциально мощный инструмент для стратегического продвижения ИИ. Бюро управления и бюджета (OMB) выпустило рекомендации о том, как сбалансировать регулирование ИИ таким образом, чтобы устранить риски ИИ и поддержать инновации в области ИИ. Они в том числе содержат рекомендации по регулированию ИИ, а также потенциальную дорожную карту для других правительств. Закон об утверждении ассигнований на 2021 финансовый год на военную деятельность Министерства обороны (NDAA) продолжает развивать политику ИИ в оборонном и других секторах. Закон предусматривает ассигнования на создание Национальной целевой группы по исследованиям ИИ с целью изучения возможности создания национального исследовательского ресурса по ИИ, содержит разрешение Национальному научному фонду (NSF) на создание национальных исследовательских институтов ИИ и поручение Национальному институту науки и техники NIST разработать структуру управления рисками в области ИИ. Только в 2020 г. федеральное правительство потратило почти 1 млрд долларов на исследования и разработки в области ИИ и объявило о выплате 140 млн долларов в течение пяти лет семи научно-исследовательским институтам по проблемам ИИ, возглавляемым NSF.
Американская инициатива в области ИИ признает, что партнерские отношения с друзьями и союзниками США представляют собой ключевой источник стратегического конкурентного преимущества и определяют необходимость международного сотрудничества для создания глобальной среды, поддерживающей американские исследования и инновации в области ИИ, а также открывают рынки для американских отраслей ИИ. Цели взаимодействия включают поддержку внедрения заслуживающих доверия инноваций в области ИИ, укрепление доверия к технологиям ИИ и их внедрение в интересах экономического роста и глобальной безопасности.
Осуществляются усилия США по развитию международного сотрудничества в ИИ, которые включают двусторонние соглашения о сотрудничестве с Великобританией в области исследований и разработок ИИ, участие в международных и многосторонних инициативах, таких как встреча министров науки и технологий Большой семерки, которая запустила Глобальное партнёрство по ИИ.
Политика Китая в области ИИ
Китай стремится стать мировым лидером в области ИИ в рамках правительственной инициативы «Сделано в Китае 2025». Пекин считает, что технология ИИ является ключом к будущей глобальной военной и экономической конкуренции. В июле 2017 г. Министерство промышленности и информационных технологий опубликовало «План развития искусственного интеллекта следующего поколения», в котором поставлены четкие цели: достичь того же уровня в области ИИ, что и США, к 2020 г., чтобы стать ведущим в мире центром инноваций в области ИИ к 2030 г. и построить отечественную индустрию ИИ стоимостью 150 млрд. юаней (22,2 млрд. долларов) к 2020 г. и 400 млрд. юаней (59,1 млрд. долларов) к 2025 г.
Китайский институт стандартизации электроники при Министерстве промышленности и информационных технологий является одним из ключевых игроков в стране. В 2018 г. он выпустил «Белую книгу по стандартизации ИИ», в которой излагаются национальные рамки стандартизации ИИ и план по ее развитию. Китайские продукты в области ИИ становится все труднее экспортировать по мере того, как на Западе растет внимание к стандартам конфиденциальности данных и угрозам безопасности (как видно из недавних опасений по поводу Huawei и 5G). Однако в целом китайская стратегия развития ИИ была признана самой всеобъемлющей и амбициозной в мире.
Страна также стремится к развитию международного партнерства в области ИИ в рамках своих усилий по установлению норм в этой области и экспорту своей практики государственного надзора в другие страны. В рамках своего цифрового Шёлкового пути Пекин вкладывает значительные средства в цифровую инфраструктуру и в другие страны, чтобы распространить свой подход к ИИ, который, как надеется Пекин, приблизит эти страны к его собственной модели управления и сделает их более зависимыми от Китая. Связанное с этим тревожное событие - это тестирование и использование в Китае ИИ для цензуры, репрессий и широкомасштабного наблюдения в рамках таких инициатив, как его система социального кредита. Вдобавок к этому Пекин уделяет значительное внимание роли ИИ в обеспечении национальной безопасности, полагая, что интеграция ИИ в военные технологии может позволить Китаю обогнать Соединённые Штаты в военной отрасли.
Политика Китая в области ИИ также включает некоторые элементы международного сотрудничества в области ИИ. Основные из них — это расширение сотрудничества с ведущими университетами в области ИИ и совместными исследовательскими центрами по всему миру; расширение своей роли в определении технологических стандартов; более активное участие в управлении ИИ, включая решение общих проблем (отчуждение роботов, контроль безопасности) и т.п.
Подход Европейского Союза к ИИ
Европейская Комиссия приступила к разработке своей стратегии ИИ в 2017 г., поручив Группе экспертов по ИИ разработать руководящие принципы для надежного и этичного использования ИИ в ЕС.
Вслед за этим в начале 2019 г. президент Еврокомиссии Урсула фон дер Ляйен объявила, что разработка всеобъемлющего законодательства в области ИИ будет приоритетом для ее Комиссии. Это привело к публикации Белой книги Комиссии по ИИ в феврале 2020 г. Предложения в Белой книге включают меры по оптимизации исследований и развитию сотрудничества в области ИИ между государствами-членами, а также увеличение инвестиций в разработку и внедрение ИИ на 70%.
В последние годы европейские лидеры осознали важность того, чтобы не отставать в области ИИ, и раскрыт свой потенциал. Такие лидеры, как канцлер Германии Ангела Меркель и президент Франции Эммануэль Макрон, подчёркивают необходимость того, чтобы Европа стала ведущим глобальным игроком в области ИИ, и новая Европейская Комиссия сделала ИИ приоритетом на следующие годы. Объявив ИИ основным стратегическим приоритетом, несколько государств-членов и институтов ЕС предпринимают шаги для продвижения амбиций Европы к лидерству в области ИИ. Это включает в себя разработку специальных документов по стратегии ИИ на национальном уровне и уровне ЕС, активизацию исследований и инноваций, а также изучение новых нормативных подходов к управлению разработкой и использованием ИИ.
Центральное место в усилиях ЕС занимает идея ИИ, «создано в Европе», которая соответствует основным ценностям прав человека и демократическим принципам. На фоне опасений, что Европа уступает свои позиции Соединённым Штатам и Китаю, государства-члены ЕС понимают, что объем ресурсов, необходимых для того, чтобы идти в ногу с последними разработками в области ИИ, невозможно изыскать, действуя в одиночку. Существует четкое обоснование для более сильной роли на уровне ЕС и для более последовательного общеевропейского подхода к ИИ, который дополняет собственные действия государств-членов.
Ряд европейских стран, в частности Чехия, Эстония, Финляндия, Франция, Германия, Швеция и Великобритания, разработали собственные стратегии развития ИИ, или планируют сделать это в ближайшем будущем. В той или иной степени эти стратегии предусматривают конкретные действия, выделяют значительные суммы денег на развитие ИИ и стремятся отстаивать европейские ценности и продвигать ИИ этичным образом.
Подход Франции к ИИ был впервые изложен в правительственном отчете 2018 г. (отчет Villani) под названием «За значимый ИИ: к французской и европейской стратегии». Этот стратегический документ воплощает всеобъемлющий и перспективный подход к ИИ, в котором особое внимание уделяется государственным исследованиям, ресурсам, обучению, трансферам и инновациям в таких стратегических секторах, как здравоохранение, окружающая среда, транспорт и мобильность, а также оборона и безопасность.
В стратегии признается необходимость рассмотрения европейской экосистемы данных как общего блага, в котором государственные органы должны внедрять «новые способы производства, обмена и управления данными». В нем подчеркивается необходимость предотвратить утечку мозгов ведущих французских экспертов в этой области, сделать ИИ понятным для общества в целом, активнее проводить исследования и разработки в области технологий ИИ осмысленным и этичным образом. Э.Макрон объявил о выделении 1,5 млрд евро для государственного финансирования ИИ к 2022 г.
Стратегия Франции в области ИИ направлена на решение четырех основных задач: привлечение лучших специалистов, разработка политики открытых данных, особенно в тех секторах, где страна уже является конкурентоспособной, создание нормативно-правовой и финансовой базы, благоприятствующей развитию предприятий в области ИИ, и разработка нормативных актов в области ИИ с уважением к этике и приемлемым стандартам для граждан. С одной стороны, централизованный характер политической системы Франции может позволить правительственным агентствам устанавливать параметры для использования ИИ в определенных областях. С другой стороны, централизованное управление инновациями может в долгосрочной перспективе препятствовать прогрессу, поскольку ИИ требует широкого спектра НИОКР в различных областях. Кроме того, хотя Франция хорошо известна своими сильными навыками в области науки, технологий, инженерии и математики, по сравнению с Великобританией и Германией, во Франции отсутствуют академические учреждения и исследователи, активно и напрямую участвующие в исследованиях ИИ.
Согласно отчёту «The Road to AI: Investment Dynamics in the European Ecosystem: AI Global Index 2019», к концу 2019 г. Франция привлекла 1,2 млрд долларов инвестиций для стартапов в области ИИ, что сделало её лидером в Европе по финансированию ИИ, опередив Великобританию.
Французская стратегия максимально учитывает этические соображения, связанные с ИИ (например, последствия использования беспилотных автомобилей, распознавание лиц и изображений, конфиденциальность). Французская стратегия детализирована и намечает конкретные шаги по повышению привлекательности страны для исследователей; повышению прозрачности и улучшению сотрудничества в области ИИ между различными участниками и т.п. Это одна из самых амбициозных европейских стратегий по развитию ИИ.
Французская стратегия ИИ выделяется своим нисходящим подходом под руководством правительства. Это показывает, насколько правительство считает ИИ стратегически важным. Дополнительным стимулом для развития ИИ является позиционирование Франции как лидера среди технологических стран после Брексита. Такие компании, как Google, Facebook, Uber, IBM, Samsung и Microsoft, уже открыли или объявили о создании исследовательских центров ИИ в Париже.
Стратегия Великобритании в области ИИ в 2018 г. претерпела несколько важных изменений. Было начато создание новых институциональных структур, таких как Управление по ИИ и Центр этики данных и инноваций. Был выпущен новый программный документ «Сделка в секторе ИИ», который будет способствовать сотрудничеству между различными правительственными агентствами и учреждениями, частными компаниями и академическими центрами. В апреле 2018 г. правительство объявило об инвестировании почти 1 млрд фунтов стерлингов в «Сделку в секторе ИИ», в том числе 603 млн евро в виде новых государственных, промышленных и академических инвестиций и около 342 млн фунтов стерлингов добавится к ранее объявленному государственному финансированию.
В документе «Сделка в секторе ИИ» рассматриваются пять основ промышленной стратегии Великобритании: идеи, люди, инфраструктура, бизнес-среда и места. В нем также изложены пути реагирования на вызовы и возможности, предоставляемые ИИ, на основе: превращения страны в глобальный центр ИИ путем инвестирования в НИОКР, навыки и нормативные инновации; поддержки секторов для повышения производительности за счет ИИ и анализа данных; мирового лидерства в области безопасного и этичного использования данных и укрепления цифровых возможностей путем создания Центра этики данных и инноваций; а также помощи людям в развитии навыков, необходимых для работы в будущем.
Эти правительственные инициативы направлены на объединение существующих рассредоточенных и нескоординированных институциональных инициатив в различных технологических областях, таких как ИИ, автономные системы и робототехника, с тем чтобы удовлетворить амбиции Великобритании стать мировым лидером в этих областях. Хотя исследования ИИ в стране имеют глобальное влияние и, хотя в Лондоне самая высокая концентрация стартапов в области ИИ в Европе, а также сильная способность привлекать международные инвестиции в стартапы, коммерциализация исследований традиционно является слабым местом для Великобритании.
На Великобританию приходится почти пятая часть исследователей ИИ в ЕС, она уступает только Нидерландам с точки зрения качества подготовленных исследовательских работ по ИИ. Кроме того, она традиционно является лидером ЕС в сотрудничестве с третьими странами. В стране находятся почти 40% европейских фирм в области ИИ, получивших финансирование на сумму не менее 1 млн долларов. Тем не менее, хотя «Сделка в секторе ИИ» хорошо продумана и пользуется широкой поддержкой промышленности, научных кругов и правительства, неясно, сможет ли она предотвратить или смягчить потенциально разрушительные последствия Брексита для ИИ страны.
Стратегия Германии в области ИИ значительно короче, чем ее французский аналог, определяет двенадцать задач в различных областях развития ИИ, которые необходимо решить к 2025 г. К ним относятся: превращение Германии и Европы в лидеры в исследованиях ИИ, создание инновационных конкурсов и европейских инновационных кластеров, улучшение использования ИИ - передача соответствующих технологий экономике и среднему классу, создание стимулов для инвесторов и основателей стартапов в области ИИ, продвижение цифровых навыков и образования, связанного с ИИ, а также усиление привлечения и удержания талантов. С 2019 по 2025 гг. страна намерена ежегодно тратить 500 млн евро на достижение этих целей.
Стратегия предусматривает: использование ИИ в целях обеспечения гражданам более качественных и эффективных услуг; предоставление данных и облегчение их использования; установление стандартов и норм использования ИИ на национальном, европейском и международном уровнях; обеспечение национального и международного сотрудничества в области разработок, связанных с ИИ; установление широкого общественного диалога и поощрение политического участия для использования ИИ способами, которые общественность считает этически, юридически и институционально правильными. Кроме того, в октябре 2019 г. Комиссия по этике данных выпустила рекомендации по разработке и использованию ИИ, которые стали образцом для Белой книги ЕС.
Германская стратегия имеет широкую сферу применения и выделяет больше средств на ИИ, чем другие европейские стратегии. Немецкий исследовательский центр ИИ считается крупнейшим в мире некоммерческим научно-исследовательским институтом, занимающимся разработкой программного обеспечения на основе ИИ.
В шведском «Национальном подходе к ИИ», опубликованном в мае 2018 г., также ставится задача быть в авангарде разработки и использования ИИ. Цели стратегии включают: разработку стандартов и принципов безопасного, устойчивого и этичного ИИ; улучшение цифровой инфраструктуры для использования существующих возможностей; расширение доступа к данным; активную роль в усилиях ЕС по развитию ИИ. В стратегии подчеркивается дефицит в стране квалифицированных специалистов по ИИ и необходимость расширения базовых и прикладных исследований ИИ в рамках правовой базы, обеспечивающей устойчивое (определяемое как этичное, надежное, безопасное и прозрачное) развитие ИИ.
С мая 2018 г. правительство инвестировало около 3,7 млн евро в несколько университетов, чтобы обеспечить обучение специалистов в области ИИ. Оно также запустило AI Data Factory и Arena в научном парке Lindholmen в Гетеборге, чтобы обеспечить сотрудничество и укрепить роль шведских компаний. Позднее научный парк превратился в национальный центр ИИ под названием AI Innovation of Sweden, объединяющий около 50 различных партнеров. Шведское инновационное агентство Vinnova также запустило несколько проектов, связанных с ИИ, таких как системы электронного здравоохранения для домашнего ухода, использование ИИ при обследовании на рак груди и оборудование с ИИ в горнодобывающей промышленности.
Помимо государственного финансирования ИИ, Швеция также извлекает выгоду из значительных инвестиций частного сектора с доступом к венчурному капиталу. В частности, Валленбергская программа по ИИ, автономным системам и программному обеспечению (WASP) планирует к 2029 г. направить 520 млн евро на исследования ИИ в Швеции. WASP включает около 40 шведских компаний и академических институтов и специализируется на машинном обучении, глубоком обучении и объяснимом ИИ. Еще одним важным коммерческим проектом является Zenuity, совместное предприятие под руководством Volvo Cars, которое выделит 95 млн шведских крон на исследования в области беспилотных автомобилей.
Финляндия выпустила стратегию искусственного интеллекта «Финляндия: век ИИ» в декабре 2017 г. В ней используется более восходящий подход к ИИ, чем в большинстве других европейских стран. Для оказания помощи в разработке стратегии развития ИИ и предоставления рекомендаций правительству Министерство экономики и занятости создало национальную руководящую группу во главе с бывшим президентом Nokia Пеккой Ала-Пиетила.
В то время как стратегии других стран сосредоточены в первую очередь либо на талантах, либо на повышении квалификации специалистов в области ИИ, Финляндия выделяется тем, что подчеркивает необходимость «обучать, удерживать и привлекать таланты ИИ за счет более высоких инвестиций и распространения финского опыта в области ИИ». Финский подход к поддержанию глобальной конкурентоспособности в области ИИ заключается в обучении населения и информировании его о потенциальных последствиях для общества. Правительство признает, что Финляндия не имеет ресурсного преимущества, которое есть у более крупных стран, поэтому цель - стать лидером в «практическом применении ИИ». Хорошим примером такого подхода к обучению граждан является бесплатный и первый в своем роде онлайн-курс «Элементы ИИ», разработанный для повышения грамотности в области ИИ и доступный для всех в учебных целях.
Эстония, пионер в области электронного управления и одна из самых развитых в цифровом отношении стран в мире, имеет прочную технологическую базу. Страна также имеет впечатляющую историю создания стартапов-единорогов или частных компаний стоимостью более 1 млрд долларов каждая, включая Skype, Playtech, TransferWise и Bolt. В настоящее время правительство пытается построить свое технически подкованное общество с помощью ИИ. В отчете Kratt за 2019 г. эстонские эксперты оценили способы расширения взаимодействия частного и государственного секторов с ИИ. Правительство планирует инвестировать не менее 10 млн евро в реализацию стратегии и нацелено на разработку долгосрочного плана в ближайшем будущем. Эстония уделяет большое внимание адаптации государственного сектора, увеличению инвестиций, НИОКР и продвижению этичного и заслуживающего доверия ИИ.
Стратегия делает больший упор на ИИ в государственном секторе, где Эстония стремится иметь конкурентное преимущество, поскольку считает, что этому аспекту ИИ уделяется меньше всего внимания со стороны остального мира. Целью правительства по применению решений ИИ в государственном секторе является «повышение ориентированности услуг на пользователя, улучшение процесса анализа данных и повышение эффективности работы страны». По данным правительства, с октября 2019 г. в государственном секторе развернуто не менее 23 решений с использованием ИИ с целью создания не менее 50 вариантов использования ИИ к концу 2020 г. Одно из этих решений включает в себя использование прогнозной аналитики, чтобы помочь решить, куда направить полицейских для управления движением. Самый амбициозный из запланированных проектов - создание «AI Judge», который поможет разрешать в суде дела о мелких претензиях.
Чехия опубликовала свою национальную стратегию в области ИИ в мае 2019 г. Во многом в соответствии с «Скоординированным планом по ИИ» Европейской комиссии национальный подход Чехии ищет возможности для более глубокого взаимодействия с инициативами на уровне ЕС и стремится сделать страну инновационным лидером в этой области. Стратегия разбивает свои цели на три части: краткосрочную (до 2021 г.), среднесрочную (до 2027 г.) и долгосрочную (до 2035 г.).
Чехия стремится развивать ответственный и надежный ИИ в соответствии с руководящими принципами ЕС, инвестировать в исследования и разработки, а также поддерживать стартапы и определять возможности для экономического роста за счет увеличения занятости и повышения квалификации специалистов. Недавно Чешскому институту информатики, робототехники и кибернетики была предоставлена возможность создать Европейский центр передового опыта в области промышленной робототехники и ИИ с почти 50 млн евро в виде поддержки стартапов от Центра исследований и инноваций в области перспективного промышленного производства.
Другие европейские страны, которые недавно опубликовали стратегии ИИ, это: Австрия, Бельгия, Дания, Италия, Литва, Люксембург, Мальта, Норвегия, Польша, Португалия и Испания. Кроме того, Австрия, Ирландия и Италия создали национальные целевые группы по ИИ. Португалия, Румыния и Испания включили ИИ в свои национальные цифровые стратегии. В большинстве этих инициатив, помимо прочего, делается упор на укрепление национальных исследований как основы ИИ; создание центров ИИ и улучшение обмена данными между общественностью, участниками отрасли и государственным сектором.
Сотрудничество в области исследований и разработок ИИ
Разработка политики ИИ в США, Китае и ЕС отражает более широкую глобальную тенденцию к созданию все более комплексных и стратегических подходов к ИИ. Стратегии развития ИИ создаются и в других странах. Эти стратегии различаются по направленности и уровням финансирования, но есть общие элементы. К ним относятся развитие индустрии ИИ с различными уровнями государственного финансирования, политические меры, направленные на снижение воздействия ИИ на будущее занятости населения; политика по расширению НИОКР и привлечению талантов в области ИИ; меры по расширению доступа к данным для ИИ, в том числе к данным, находящимся в ведении правительства. В отличие, например, от производства компьютеров или фармацевтики, ИИ — это открытая наука. Многие из главных алгоритмов в сфере ИИ находятся в открытом доступе в виде научных работ или протоколов конференций. Обсуждается необходимость международного сотрудничества, например, в области НИОКР и разработки международных стандартов ИИ.
Как передовой продукт цифровых технологий и интернета, ИИ вырос за пределами национальных границ. Многие исследования и разработки проводятся совместно, но из-за своего масштаба и сложности НИОКР в области ИИ особенно важны. Часто в нем участвуют многопрофильные команды, работающие из разных локаций. В значительной степени они работают с программным обеспечением с открытым исходным кодом, используют публикации со всего мира, общие данные и распределенные вычисления. Этот открытый и распределенный подход к инновациям в области ИИ позволил исследователям со всего мира - от Китая до Австралии и Индии - приобрести навыки разработки ИИ и внести свой вклад в глобальные инновации в области ИИ.
Успешная разработка и внедрение ИИ требует государственной политики, которая может поддерживать это сотрудничества. Включение международного сотрудничества в качестве элемента такой политики указывает на то, что правительства ряда стран ценят связь между развитием ИИ и трансграничным сотрудничеством.
Е. Ларина, В. Овчинский
https://zavtra.ru/blogs/kak_razvivaetsya_iskusstvennij_intellekt
26.02.2021 Доктрина Шмидта.
Новые технологии и будущее национальной безопасности США
23 февраля 2021 года перед комитетом Сената США по вооруженным силам выступил председатель Комиссии национальной безопасности по искусственному интеллекту (NSCAI) и Совета по оборонным инновациям (DIB) доктор Эрик Шмидт (бывший председатель совета директоров Google).
Он остановился на проблемах, которые имеют исключительно важное значение и для развития научно – технологического потенциала России.
Глобальное технологическое лидерство и национальная безопасность
Укрепление глобального лидерства США в области технологий является по Шмидту императивом как экономики, так и национальной безопасности. Инновации — это основа экономики и источник военного преимущества США.
Шмидт убежден, что американский национальный кризис, с которым нужно бороться прямо сейчас — это угроза китайского лидерства в ключевых технологических областях. Он согласен с тезисом Байдена в Мюнхенском выступлении (2021 года): Соединённые Штаты находятся в «долгосрочном стратегическом соревновании с Китаем».
Китай, по оценкам Шмидта, стремится к технологическому лидерству за счет стратегических инвестиций в широкий спектр важнейших технологических областей, в том числе в рамках инициативы Made in China 2025.
Искусственный Интеллект (ИИ) является стержнем этой широкой технологической конкуренции. Он будет использоваться для развития всех аспектов национального могущества - от здравоохранения до производства продуктов питания и экологической устойчивости. Успешное внедрение ИИ в смежных областях и технологиях будет стимулировать экономику, формировать общества и определять, какие государства будут оказывать влияние и обладать властью в мире.
Во многих странах есть национальные стратегии ИИ. Но только США и Китай, по мнению Шмидта, обладают ресурсами, коммерческой мощью, кадровым резервом и инновационной экосистемой, чтобы стать мировым лидером в области ИИ. В некоторых областях исследований Китай находится вровень с США, а в некоторых он уже более продвинут. В течение следующего десятилетия Китай может превзойти Соединенные Штаты как мировую сверхдержаву в области ИИ в целом.
Помимо ИИ, Китай стремится стать мировым лидером в области квантовых вычислений, сетей пятого поколения (5G), синтетической биотехнологии, а также в некоторых других. Пекин рассматривает свои национальные стратегии в этих областях как взаимодополняющие и взаимоусиливающие. КПК ясно дала понять, какие технологии она считает высшими национальными приоритетами. В каждой из этих областей Китай стремится соответствовать или превзойти работу американских учёных.
По мнению Шмидта, если Китай возьмет на себя инициативу, преимущества первопроходца в разработке и внедрении новых технологий, то это затруднит США возможность наверстать упущенное. В критически важных секторах с сильными сетевыми эффектами, таких как телекоммуникации, принцип «победитель получает все» повышает ставки быстрого развития ведущих технологических платформ.
Шмидт призвал правительство США разработать единую стратегию для продвижения и защиты технологий, которая будет поддерживать национальную конкурентоспособность в середине XXI века.
Подход Белого дома к национальной конкурентоспособности в критических технологиях
Согласно выводам Шмидта, Соединенным Штатам нужен комплексный подход к федеральным инвестициям и политике в целом в отношении ряда новых технологий. Комплексная национальная стратегия должна устанавливать и укреплять приоритеты и согласовывать бюджетные компромиссы. Стратегией должен руководить Белый дом.
Шмидт поддержал рекомендацию Комиссии по искусственному интеллекту о создании нового Совета по конкурентоспособности технологий под руководством Белого дома. Оно должно проходить под руководством вице-президента и под контролем старшего координатора Белого дома, чтобы гарантировать, что у президента будет организация, способная к разработке, реализации и финансированию реальной национальной технологической стратегии.
Национальная стратегия, по мнению Шмидта, должна быть сосредоточена на фундаментальных технологиях, оказывающих широкое влияние на национальную конкурентоспособность и безопасность. В короткий список приоритетов следует включить искусственный интеллект, 5G, микроэлектронику, биотехнологии и квантовые вычисления. Важность этих областей широко признана. В приоритетный список также должны быть включены передовое производство (которое охватывает как производство, так и сельское хозяйство), а также инфраструктура, дополненная машинным интеллектом (все, от дорог до мостов, от трубопроводов до электрических сетей).
Передовое производство, согласно доктрине Шмидта, необходимо для того, чтобы страна могла производить товары, в которых она нуждается, в условиях нарушений в цепочках поставок в результате стихийных бедствий, эпидемий и т. д. Это позволит совершить большой шаг вперед за счет повышения эффективности и оптимизации энергопотребления при одновременном сокращении истощающихся запасов товаров.
«Способность производить высокотехнологичные товары внутри страны имеет решающее значение для национальной безопасности, как аспект поддержания доступа к готовой продукции, так и как движущая сила инноваций. Соединённые Штаты должны стремиться к самообеспечению в тех отраслях, которые имеют решающее значение для национальной безопасности или которые требуют слишком много времени для восстановления в случае затяжного конфликта».
Новая инфраструктура имеет важное значение для ликвидации последствий чрезвычайных ситуаций (Шмидт ссылается на замороженные поставки газа в Техасе или изменчивые лесные пожары в Калифорнии), позволяет выбирать между различными видами логистики (поезда или грузовики против трубопроводов), а также сокращать вредное воздействие на окружающую среду.
Имеющаяся инфраструктура Соединенных Штатов остается в значительной степени не работающей: ни один город США не входит в десятку лучших в мире по подключенности умных городов, и только один входит в топ-30.
Более агрессивная роль правительства
Сегодня, по мнению Шмидта, существует фундаментальная разница в подходах к инновациям между США и Китаем.
В Америке технологические фирмы не являются инструментами государственной власти и лишь соревнуются за долю на рынке. Большинство технологических достижений в Соединенных Штатах обеспечивается частным сектором и университетами.
Шмидт полагает, что США не должны терять культуру инноваций, восходящую снизу вверх и пронизанную менталитетом “гаражных стартапов”. Однако Шмидт - реалист, он полагает, что сохранение прошлого не является выигрышной стратегией: «Нельзя ожидать, что крупные технологические компании будут конкурировать с ресурсами Китая или делать крупные общенациональные инвестиции, которые потребуются Соединенным Штатам, чтобы быть впереди. Нам понадобится гибридный подход, который более тесно увяжет усилия правительства и частного сектора для достижения победы».
Частный сектор, по мнению Шмидта, - великая сила Америки. Небольшие частные компании развиваются быстрее и захватывают большую долю глобального рынка, чем это может сделать правительство. Однако, он полагает, что, учитывая меняющийся ландшафт, правительство США должно принять практические меры к повышению конкурентоспособности национальных технологий. Поощрение разнообразной и устойчивой экосистемы исследований и разработок (НИОКР) и содействие коммерческому сектору является обязанностью правительства. Расширение кадровых ресурсов, более быстрое реформирование иммиграционных и визовых органов для привлечения лучших мировых специалистов и улучшения системы образования — все это варианты государственной политики. Защита критически важной интеллектуальной собственности и предотвращение систематической кампании незаконной передачи знаний, проводимой конкурентами, является обязанностью правительства. Защита передовых технологий и повышение устойчивости цепочек поставок требует законодательства и федеральных стимулов.
Демократизация исследований искусственного интеллекта: национальный исследовательский ресурс
Лишь у нескольких крупных компаний и могущественных государств будут ресурсы, чтобы сделать самые большие прорывы в области ИИ. Несмотря на распространение инструментов с открытым исходным кодом, потребности в вычислительных мощностях и массивах данных для улучшения алгоритмов стремительно растут. «Правительство должно облегчить доступ к вычислительным средам, данным и средствам тестирования, чтобы предоставить исследователям, не выходящим в круг ведущих игроков отрасли и элитных университетов, возможность добиваться прогресса в передовых технологиях искусственного интеллекта.
Правительство США может сделать это, создав Национальный исследовательский ресурс ИИ (NAIRR), который предоставит проверенным исследователям и студентам гарантированный доступ к вычислительным ресурсам, совместимым с ИИ правительственными и негосударственными наборами данных, образовательным инструментам и поддержке пользователей.
Правительством США должно быть создано государственно-частное партнёрство с использованием комплекса облачных платформ (Комиссия по искусственному интеллекту Шмидта разработала подробные планы по реализации этой рекомендации)».
Цифровая инфраструктура: развитие 5G сетей
Шмидт считает, что содействие быстрому созданию сетевой инфраструктуры 5G является императивом национальной безопасности США. От этого будет зависеть будущая военная готовность и развитие конкурентоспособных американских технологических компаний любого размера. Более того, как показала пандемия, сильная цифровая инфраструктура повышает устойчивость к системным потрясениям, позволяя американцам получать доступ к телемедицине, дистанционному образованию и другим услугам, в которых они нуждаются во время кризиса.
Сети 5G станут связующим звеном между всеми передовыми мобильными системами и, в частности, в сочетании с достижениями в области ИИ, откроют новые глубокие технологические возможности непосредственно для пользовательских устройств.
Китай также рассматривает создание цифровой инфраструктуры как стратегический приоритет и вложил значительные средства в общенациональную сеть мобильной связи Gigabit Ethernet, и в ближайшем будущем он создаст ее. В Соединенных Штатах, по мнению Шмидта, развитие сети 5G продвигается медленно, обеспечивая лишь постепенное увеличение скорости передачи данных и покрытия.
В этой связи Шмидт выдвигает три идеи.
Во-первых, необходимо реинвестировать выручку от аукциона за использование С-спектра в сетевую инфраструктуру. Шмидт предлагает изучить направления использования 81 млрд долларов дохода, полученного от аукциона С-спектра (аукцион 107 лицензий на услуги 3,7 ГГц - среднечастотного спектра для услуг 5G), проводимого Федеральной комиссии по связи (FCC), и любых будущих аукционов и перенаправить деньги на финансирование сетевой инфраструктуры с механизмом распределения, предназначенным для ускорения его развитие со стороны частного сектора.
Во-вторых, следует изучить совместное использование средств, полученных от аукциона С-спектра и других альтернативных аукционов. Например, Шмидт предложил модель, в которой Министерство обороны сохраняет контроль над спектром, но позволяет промышленности делиться им в обмен на то, что промышленность быстро и за свой счет построит необходимую инфраструктуру. Шмидт разъясняет, что это не «национализированный 5G», как утверждают некоторые критики. Это будет построенная, управляемая и обслуживаемая частным сектором сеть, в которой приоритет отдается использованию Министерством обороны. В любом случае, Шмидт считает, что Министерство обороны следует приветствовать за поиск инновационных решений этой насущной проблемы.
В-третьих, должны быть изменены условия аукциона. США, по мнению Шмидта, не может просто дожидаться появления 6G или 7G: «Сейчас конкурентное преимущество, вероятно, потеряно навсегда. Я считаю это неприемлемым риском для национальной безопасности. Мы должны изменить условия аукциона. Для любых будущих аукционов, особенно в диапазоне C-спектра, который идеально подходит для 5G, FCC должна наложить строгие требования к победителям аукционов, чтобы обеспечить быстрое и справедливое построение необходимой сетевой инфраструктуры».
Уязвимости оборудования: микроэлектроника
Вывод Шмидта: после десятилетий лидерства в области микроэлектроники Соединённые Штаты теперь почти полностью зависят от зарубежных компаний по производству передовых полупроводников, которые обеспечивают работу всех алгоритмов ИИ, критически важных для систем обороны и всего остального.
Зависимость от импорта полупроводников, особенно из Тайваня, создает стратегическую уязвимость от неблагоприятных действий иностранного правительства, стихийных бедствий и других событий, которые могут нарушить цепочки поставок микроэлектроники, как мы недавно видели на примере автомобильной промышленности. Хотя американские университеты и фирмы остаются мировыми лидерами в ключевых областях исследований и разработок в области полупроводников и проектирования микросхем, мировая полупроводниковая промышленность в настоящее время сильно глобализирована и конкурентоспособна. Например, тайваньская корпорация по производству полупроводников (TSMC) является мировым лидером в контрактном производстве полупроводников, а южнокорейская компания Samsung производит самые современные чипы, используя новейшие технологии и оборудование.
В то же время, стремясь наверстать упущенное и достичь самодостаточности микросхем, Китай прилагает беспрецедентные, финансируемые государством, усилия по созданию к 2030 году ведущей в мире полупроводниковой отрасли.
Шмидт делает вывод о том, что Соединенным Штатам следует разработать стратегию, позволяющей опережать Китай как минимум на два поколения в области современной микроэлектроники, а также выделять средства для поддержания различных источников производства передовой микроэлектроники в Соединенных Штатах.
Шмидт дал несколько рекомендаций:
(1) исполнительная власть должна доработать и реализовать национальную стратегию лидерства в области микроэлектроники;
(2) Конгресс должен предложить 40% возмещаемую налоговую скидку на инвестиции в производство внутри страны для фирм из Соединенных Штатов и их союзников;
(3) Конгресс должен выделить дополнительно 12 млрд долларов в течение следующих пяти лет на исследования, разработки и построение инфраструктуры в области микроэлектроники для ключевых областей. Эти инвестиции должны помочь ускорить переход от идей и университетских прототипов к промышленному производству внутри страны.
Эти усилия позволят правительству США, частному сектору и академическим кругам справиться с задачей восстановления превосходства США в области полупроводников: «Сосредоточение наших усилий на развитии отечественных предприятий по производству микроэлектроники уменьшит зависимость от импорта, сохранит лидерство в технологических инновациях, поддержит создание рабочих мест, улучшит национальную безопасность и торговый баланс, а также повысит технологическое превосходство и готовность вооруженных сил - важного потребителя передовых технологий».
Последствия конкуренции новых технологий для обороны
Многие государственные и негосударственные субъекты, по мнению Шмидта, полны решимости бросить вызов Соединённым Штатам, но избегают прямой военной конфронтации. Они будут использовать ИИ для модернизации существующих инструментов и разработки новых. «Злоумышленники используют нашу цифровую открытость для информационных операций с использованием ИИ и кибератак. Используя шпионаж и общедоступные данные, злоумышленники будут собирать информацию и использовать ИИ для выявления уязвимостей у отдельных лиц, в обществе и критической инфраструктуре».
При более узком подходе к военным вопросам ключевые технологические области имеют важное значение и широкий спектр применения в оборонной сфере. По сути, источники преимущества на поле боя сместятся с традиционных факторов, таких как численность сил и уровень вооружения, на такие факторы, как быстрый сбор и усвоение данных, вычислительная мощность, лучшие алгоритмы и безопасность системы.
Шмидт делает вывод, что защита от противника с искусственным интеллектом без использования ИИ — это приглашение к катастрофе. ИИ сократит временные рамки принятия решений с минут до секунд, расширит масштаб атак и потребует ответов, которые находятся за пределами человеческого познания. Люди-операторы не смогут защищаться от кибератак или дезинформационных атак с использованием ИИ, роя дронов или ракетных атак без помощи машин с ИИ. Лучший человек-оператор не может защитить себя от множества машин, совершающих тысячи маневров в секунду, потенциально движущихся с гиперзвуковой скоростью и управляемых ИИ. Люди не могут быть везде одновременно, а программы могут.
Пентагон разрабатывает множество операционных концепций для ведения этих будущих войн. Но Шмидта беспокоит то, что при нынешних темпах интеграции технологий Министерство не сможет выполнить их вовремя. Чтобы сражаться так, как военные намереваются воевать в 2030 или 2035 году, Министерству обороны необходимо подготовить основы задолго до этого.
Коммерческая модель
Министерству обороны необходимо пересмотреть свою работу. «Мы должны создавать ракеты также, как сейчас строим автомобили: использовать дизайн-бюро для разработки и моделирования с помощью программного обеспечения» – говорит Шмидт, - Длительные циклы проектирования убивают нашу конкурентоспособность. Быстрый итеративный (выполнение работ параллельно с непрерывным анализом полученных результатов – Е.Л, В.О.) дизайн и производственные циклы - ключ к конкурентоспособности. Министерство обороны должно нацеливаться на военные системы, выпуск которых может быть ускорен с помощью новых компаний по разработке дизайна, цифровой кооперации, а также изменения правил закупок, учитывающих все это».
Конкретные меры, которые Министерство обороны США должно предпринять прямо сейчас (советы Э.Шмидта Пентагону)
1. Интегрируйте существующие цифровые технологии прямо сейчас
Многие из новых технологий, необходимых военным, уже доступны на коммерческом рынке. Закупите их. Это создаст рыночные стимулы для производства все большего и большего количества полезных оборонных технологий:
● Сделайте приоритетными существующие технологии, которые могут расширить интеллектуальные функции с применением ИИ. Существуют значительные возможности для более эффективного использования коммерчески доступных технологий в целях улучшения ситуационной осведомленности, а также индикации и предупреждения. Автоматизация и объединение усилий людей и машин могут повысить эффективность ряда ISR (Разведка, наблюдение и предоставление информации) платформ и улучшить полный цикл сбора и анализа информации.
Министерству следует согласовать свои инновационные инициативы для реализации скоординированной стратегии коммерческих технологических решений. Эту работу должен возглавлять заместитель министра обороны по исследованиям и разработкам.
● Создайте группы разработки и развертывания ИИ в каждом боевом командовании. Группы разработки ИИ должны быть встроены в каждое боевое командование и должны быть способны поддерживать полный жизненный цикл разработки и развертывания ИИ, включая анализ данных, разработку, тестирование и производство. Команды должны иметь возможность прямого развертывания, чтобы действовать как локальный интерфейс с оперативными подразделениями.
2. Улучшение цифровой инфраструктуры Министерства
Министерство обороны сделало первый многообещающий шаг в 2020 году, выпустив Стратегию обработки данных (DoD Data Strategy, U.S. Department of Defense (Sept. 30, 2020). Однако Министерству не хватает современной цифровой экосистемы, инструментов и сред для совместной работы, а также широкого доступа к общим ресурсам ИИ, необходимым для интеграции ИИ в организации.
Министр обороны должен руководить созданием цифровой экосистемы в масштабах Министерства обороны. Необходимо, чтобы все новые служебные программы соответствовали конструкции существующей
экосистемы, и чтобы там, где это возможно, существующие программы стали совместимы с ней к 2025 году.
Эта техническая база должна:
1) обеспечивать доступ к ведущим облачным технологиям и услугам для масштабируемых вычислений;
2) обеспечить совместное использование данных, программного обеспечения и возможностей через хорошо документированные и надежные интерфейсы с надлежащим контролем доступа;
3) предоставить всем разработчикам и ученым Министерства обороны доступ к инструментам и ресурсам, которые им необходимы для реализации новых возможностей ИИ.
К концу 2021 года Министерство должно определить архитектуру экосистемы. Целью должно быть создание защищенной системной сети с открытыми стандартами, которая поддерживает интеграцию приложений ИИ на оперативных уровнях и между доменами. Она должна быть доступна для всех военных служб и включать несколько элементов, в том числе сети командования и управления; передачу, хранение и безопасную обработку данных; интеграцию систем вооружения.
3. Реформирование структуры руководства
Лидерство - критическая переменная. Для внедрения инноваций требуются организационные изменения, а не только технические возможности. Высокопоставленные военные и должностные лица должны установить четкие приоритеты и направления, а также учитывать более высокую неопределенность и большие риски при освоении новых технологий.
В частности, Министерство обороны должно:
● Создать Руководящий комитет высокого уровня по новейшим технологиям под председательством заместителя министра обороны, заместителя председателя Объединенного комитета начальников штабов и первого заместителя директора национальной разведки.
4. Создание новых потоков талантов
Не существует мыслимой программы, пилотного проекта, стажировки или направления для технических талантов, которые могли бы закрыть дефицит талантов Министерства обороны, и такая же проблема существует во всех органах национальной безопасности.
Сейчас не время добавлять новые должности в отделах и органах национальной безопасности для технологов Кремниевой долины.
Необходимо с нуля построить совершенно новые конвейеры талантов. Мы должны создать новую Академию цифровых услуг и гражданский национальный резерв, чтобы выращивать технические таланты с той же серьезностью, что и офицеров. Цифровой век требует цифрового корпуса.
Эксперты в области технологий нуждаются в более эффективных способах выстраивания карьеры в правительстве с упором на свои знания. Современные методы управления талантами часто предлагают экспертам должности, не связанные с их областью знаний. В результате многие уходят из правительства или из армии. Министерство обороны должно создавать предпосылки построения карьеры гражданских лиц и военных в области разработки программного обеспечения, обработки данных и искусственного интеллекта.
Образование руководителей и старших командиров также очень важно. Лидеры, не разбирающиеся в новых технологиях, с меньшей вероятностью будут заниматься программами, связанными с ними. Они не смогут включать новые технологии в операционные концепции или организационные процессы.
Министерству обороны также необходимо интегрировать вычислительное мышление и основы использования ИИ в обучение младших командиров. Сержантам и младшим офицерам необходим базовый уровень знаний для ответственного использования новых возможностей. Министерству обороны необходимо интегрировать цифровые навыки и вычислительное мышление в начальную подготовку офицеров. При этом необходимо сосредоточиться на сборе и управлении данными, жизненном цикле ИИ, вероятностных процессах и визуализации данных, а также на принятии решений на основе данных.
5. Инвестирование в науку и технологии, а также согласование инвестиции со стратегией
Министерству обороны США следует взять на себя обязательство расходовать не менее 3,4% своего бюджета на науку и технологии с акцентом на новые и прорывные технологии. Это будет значительным увеличением по сравнению с нынешним уровнем в 2,3% и будет следовать давним рекомендациям Министерства обороны, Совета по науке и других организаций, о которых говорится в готовящемся отчете NSCAI. В частности, в отношении ИИ Министерство должно увеличить расходы на НИОКР примерно с 1,5 млрд долларов до не менее 8 млрд долларов к 2025 году.
Чтобы согласовать инвестиции со стратегией, Министерство обороны должно подготовить Приложение по технологиям в следующем документе Стратегии национальной обороны. В этом приложении приоритетное внимание будет уделяться инвестициям в технологии и их развитию по отношению к военным возможностям, необходимым для реализации будущих оперативных концепций. И это будет четко обозначать, какие технологии являются приоритетными для Министерства.
6. Реформирование устаревшего бюджетного процесса Министерства обороны США
Проблема Министерства обороны - не в инновациях, а в их внедрении. Устаревший процесс бюджетирования индустриальной эпохи создает долину смерти для новых технологий, разрешая финансирование фундаментальных исследований, а также закупку систем вооружения, но предотвращая гибкие инвестиции, необходимые для создания прототипов, экспериментов с новыми концепциями и технологиями, такими как ИИ.
Конгрессу и Министерству обороны необходимо работать вместе, чтобы немедленно санкционировать и финансировать проекты, а также подготовить почву для более радикальной реформы.
7. Обеспечение ответственной разработки, тестирования и использования автономных систем с поддержкой ИИ
Если система на базе искусственного интеллекта не работает так, как задумано, предсказуемо и не руководствуется четкими принципами, операторы не будут ее использовать, военные службы не примут ее, и американский народ не поддержит ее. Спешка в интеграции ИИ будет контрпродуктивной, если из-за этого сотрудники утратят уверенность в его преимуществах. Все военные системы требуют тщательного тестирования, гарантий и понимания того, как они могут работать в реальном мире, в отличие от испытательного стенда. Автономные системы оружия с поддержкой ИИ могли бы быть более точными и, как следствие, сократить жертвы среди гражданского населения. Но они также поднимают важные этические вопросы о роли человеческого суждения в применении смертоносной силы. Если они неправильно спроектированы или используются, они могут увеличить риск военной эскалации.
Потребуется совершенно новый подход к тестированию, оценке, валидации и верификации (TEVV). Министерство обороны должно адаптировать и разработать политики и возможности TEVV с учетом изменений, необходимых для ИИ, по мере роста количества, масштабов и сложности систем с поддержкой ИИ. Это должно включать создание структуры и культуры TEVV, которые ведут непрерывное тестирование; сделать инструменты и возможности TEVV более доступными для Министерств обороны; обновлять или создавать виртуальные и конструктивные тестовые диапазоны для систем с ИИ; реструктурировать процессы, лежащие в основе требований к системному проектированию, разработке и тестированию.
***
Доктрина Шмидта заслуживает того, чтобы быть внимательно изученной российскими структурами, ответственными за обеспечение национальной безопасности.
Е. Ларина, В. Овчинский
https://zavtra.ru/blogs/doktrina_shmidta