Что ждать от стратегии развития искусственного интеллекта в РФ?
Президент поручил к 30 июня разработать национальную стратегию развития технологий в области искусственного интеллекта (ИИ). Документ определит задачи страны относительно важной технологии, в развитии которой России нельзя отстать от геополитических контрагентов.
Риски, связанные с технологиями ИИ, известны: этические проблемы, потенциальные катаклизмы на рынке рабочей силы, потеря контроля над ИИ-системами и пр. Однако сейчас, на заключительном этапе разработки стратегии, главный риск, связанный с ИИ, состоит в потенциальных ошибках при определении принципов развития технологий ИИ и целей, которые должны быть достигнуты.
Одна из таких целей очевидна: не проиграть технологическую гонку, не попасть в зависимое положение, подобное тому, в которое Россия попала в сфере IT из-за отсутствия собственного стека информационных технологий.
Определение ИИ
Термин «искусственный интеллект» долгое время использовался для обозначения IT-систем, решающих задачи, которые до поры считались доступными только человеку. По мере решения таких задач компьютерами содержание понятия «ИИ» менялось. Это хорошо иллюстрируют слова Михаила Донского, чья «Каисса» в 1974 году выиграла первый чемпионат мира по шахматам среди компьютерных программ:
«Шахматное программирование перестало быть искусственным интеллектом, как только компьютер обыграл человека».
В настоящее время, однако, смысл термина «ИИ» стабилизировался. Если укладывать его в одно слово, этим словом будет «нейросеть». ИИ сегодня – это построенные на «обученных» нейросетях (для обучения нужны массивы заранее накопленных данных) неалгоритмические IT-системы, демонстрирующие способность к принятию решений, которые ведут к достижению поставленной цели в сложной, не до конца формализованной предварительным описанием обстановке.
В стратегии развития искусственного интеллекта понятие «ИИ» должно быть определено, разумеется, яснее. Велик соблазн дать более конкретное определение через прикладные задачи, решаемые ИИ-системами: беспилотное вождение автомобилей по дорогам общего пользования, идентификация человека по антропологическим признакам и изображению лица, ранняя диагностика тяжёлых болезней и т.п., однако это обеднит документ, ограничит стратегию развития ИИ в России перечнем задач, который наверняка окажется неполон.
Другая крайность – сказать «ИИ – это IT-системы, способные вычленять из данных информацию подобно тому, как это делает человек». Да, это верное определение, но оно начисто лишено как новизны (именно так ИИ и понимали на протяжении более чем полувека), так и конструктивности, зато таит опасность развернуть исследования ИИ в сторону поиска ответа на бессмысленный для инженера вопрос о том, как работает человеческий мозг.
Интересно посмотреть, как разработчики стратегии справятся с задачей определения ИИ. Хотелось бы, чтобы они избежали определения ИИ через прикладные задачи. ИИ – универсальная технология, в этом качестве её и надо развивать. А какие задачи с помощью этой технологии придётся решать, сказать заранее сложно, если не невозможно.
Иностранный и международный опыт
Интуитивно понятно, что технологии ИИ необычны, с таким человечество ещё не сталкивалось. Главная особенность в том, что ИИ-системы невозможно эффективно контролировать – даже создатель нейросети не знает, как именно она работает после обучения. ИИ-системы, бывает, приносят разочарования своим создателям – например, тщательно разработанная (и весьма дорогостоящая) IBM Watson, ИИ-система, рассчитанная на применение в медицинской диагностике, как помощник практикующих врачей не прижилась.
В настоящее время в странах, развивающих ИИ-технологии, идёт активное осмысление перспектив и рисков использования ИИ-систем. Уже существуют принятые на международном уровне рекомендации.
В февральской конференции высокого уровня Совета Европы под названием «Governing the Game Changer», посвящённой влиянию ИИ-систем на «права человека, демократию и верховенство права», участвовали представители 47 стран. Изучение материалов конференции приводят к выводу, что де факто в Европе ИИ-системами считается всё, что действует «как человек» и способно заменить человека на рабочем месте – например, в таких областях, как правосудие, бухгалтерия, управление транспортом и др.
Должны быть, полагают в Совете Европы, созданы эффективные надзорные механизмы и демократические контрольные (наблюдательные) структуры по вопросам проектирования, разработки и внедрения ИИ.
«Демократические процессы должны предполагать существование независимой, информированной общественности, а также поощрять открытые и инклюзивные дискуссии», «права человека являются основной ценностью демократических обществ, их защита и распространение требует активного участия всех заинтересованных сторон, уделяя при этом особое внимание потребностям уязвимых групп, которые могут столкнуться с маргинализацией», — таковы, в частности, положения итогового документа Governing the Game Changer.
В апреле в Пекине состоялась ещё одна конференция, International Conference on Artificial Intelligence and Education. Её итоговый документ (русский перевод) содержит забавные пункты о «признании отличий человеческого интеллекта» [от ИИ] и «необходимости изучения [несмотря на пришествие ИИ] базовых навыков, таких, как грамотность и счёт». Важным представляется положение о невозможности заменить учителя ИИ-системой.
Как и ранее в Хельсинки, пекинская конференция констатировала необходимость контроля ИИ-систем человеком. Этот принцип создания и применения ИИ-систем стал общепризнанным.
В мае Организация экономического сотрудничества и развития (Россия членом этой организации не является) приняла «новые принципы искусственного интеллекта ОЭСР». Рекомендации ОЭСР унифицируют по американскому образцу правила регулирования национальных экономик стран-участников, и не только участников. Так, под «новыми принципами искусственного интеллекта ОЭСР» подписались, в частности, Бразилия и Румыния, в ОЭСР не входящие. В «новых принципах ИИ» от ОЭСР констатируется «необходимость стабильной политической среды, способствующей ориентированному на гуманизм подходу к ИИ», причём правительствам рекомендовано «выполнять рекомендации ОЭСР … в их национальной политике и в международном сотрудничестве».
Какая ИИ-стратегия нужна России
Такая, которая, как уже было сказано, позволит не проиграть ИИ-гонку США, КНР и ЕС. При этом принципиально важно понимать, что технологическая гонка не означает изоляцию – в отдельно взятой стране невозможно построить промышленно применимые ИИ-системы. Если национальная стратегия ИИ хотя бы намёком обозначит такую возможность, это будет означать саботаж.
В стратегии развития ИИ в России должен быть описан результат, к которому идёт страна, инвестируя по дороге огромные суммы бюджетных, т.е. народных, денег. Если только, не дай бог, стратегия развития ИИ в качестве результатов зафиксирует характерные словеса вроде «Процент заводов, использующих ИИ-системы для выпуска продукции – N», «Средний индекс Хирша для изданных в России научных работ, посвящённых ИИ, не ниже – M» и пр. в этом роде, можно будет с уверенностью считать, что попытка создать в России собственные ИИ-системы провалилась. Она не даст ничего, кроме более или менее бессмысленной траты упомянутых уже народных денег и возможности для ответственных товарищей безболезненно отчитаться за «исполнение» планов.
Опасность подобного – псевдостратегического – мышления хорошо видна в сравнении с космическими программами. Нельзя представить критерием успеха индекс цитирования или количество печатных трудов конструкторов, а не успешный полёт космического аппарата. В истории с «Бураном» вообще имела место обратная ситуация: когда ведущим конструкторам по итогам проекта в обход установленной процедуры (которая предполагает публикацию научных результатов) присвоили учёные степени, это вызвало протесты в академическом сообществе.
Результат исполнения стратегии должен быть описан совсем иначе – ясно и в содержательных терминах. Например, результатом может быть создание стека технологий ИИ, с достаточно подробным объяснением того, что в него должно войти.
Уместно вспомнить, что в мае по итогам совещания, посвящённого ИИ, президент РФ в связи с приоритетами национальной стратегии развития ИИ прежде всего сказал, что «Россия должна стать одной из ключевых площадок для решения сложнейших научных задач с участием учёных со всего мира», и что «эта работа может идти и в рамках международных математических центров», которые будут открыты в Москве, Санкт-Петербурге и Сочи.
Кроме этих будущих центров в стране есть действующие Федеральные исследовательские центры. Их участие если не в разработке, то как минимум в экспертизе «нижних» – связанных с фундаментальными исследованиями – слоёв технологического стека, очевидно, обязательно.
Наконец, стратегия развития ИИ-технологий должна конструктивно указывать национальные преимущества России и объяснять, как их надлежит использовать и усиливать, а также чем и как следует парировать наши национальные слабости – с полным перечислением и тех, и других.
От стратегии также требуется специальное внимание к умелому регулированию инновационных компаний как условию создания в России эффективных ИИ-систем, поскольку, скорее всего, реализация стратегии потребует иной, инновационной нормативной базы для развития ИИ.
Этические вопросы развития технологий ИИ, уже хорошо проработанные и признанные десятками стран, в российской стратегии развития ИИ также обязательны.
О национальных данных
Защиту данных как национального достояния следует прямо объявить условием реализации стратегии развития ИИ. Речь не только о ПД (хотя и о ПД, разумеется, тоже). Не менее, а то и более важны данные, порождаемые реальной экономической деятельностью. С появлением IoT появится и новый источник огромной массы ценных сведений, на которых можно обучить множество ИИ-систем решению множества задач.
За эти сведения предстоит борьба с другими государствами. Лучший способ её выиграть – соблюдать внутренние законы и международные обязательства России в этой области, а также принцип «доступ к данным граждан и компаний РФ возможен только на территории страны». Независимо от того, насколько этот результат достижим, стремление к нему принципиально, оно прямо связано с реализацией стратегии.
Пример: многие данные системы государственной статистики и в доцифровые времена открыто не публиковались, были секретными, и понятно, почему. Времена изменились: большие данные, дающие при правильной обработке богатейший, недостижимый прежде статистический материал, не засекретишь, всё, что тут можно и следует сделать – наладить контроль доступа к национальным данным.
О главном
Осталось заметить в заключение, что всё, о чём сказано выше – стек технологий ИИ, а ещё кадры специалистов, просвещение и переквалификация граждан, чьи профессии модифицируются ИИ, контроль над обученными нейросетями, защита национальных данных и пр. – задачи промежуточные. Основная цель развития ИИ для России – это, очевидно, не мировое технологическое господство. Нам нужна обеспечивающая в обозримом будущем национальную безопасность технологическая независимость, место в международном разделении высокотехнологичного труда и, главное, рост эффективности. Производительности труда, если ещё точнее, и вместе с ней – благосостояния граждан.
Источник: Экспертный центр Электронного государства