К 2022 году разработают законы по контролю над автоматизированными системами
Facebook отключил одну из своих систем искусственного интеллекта. Об этом сообщает «Коммерсант» со ссылкой на Tech Times.
— Специалисты компании обнаружили, что боты стали общаться не на английском, а на собственном языке, который не был понятен людям, — пишет «Ъ». — Собственный язык был создан искусственным интеллектом для возможности быстрее и проще обмениваться информацией. После этого Facebook отключил часть системы и перепрограммировал других ботов, чтобы они могли общаться только на английском языке.
Илон Маск, основатель компаний SpaceX и Tesla, отмечает, что управлять процессами разработки современного ПО и самими разработчиками как возможно, так и необходимо, при этом, только через государственные органы.
Как сообщала «Деловая Евразия», в странах ЕАЭС к цифровой повестке в странах союза подходят через внедрение общих принципов цифровых механизмов, что, в последствии, должно привести к созданию евразийского цифрового пространства.
Вопросы возможностей, рисков и необходимых шагов по цифровизации экономики и общества «Деловой Евразии» прокомментировал менеджер по разработке программного обеспечения компании Apalon из Минска Егор Чурилов.
— Насколько реально влияние искусственного интеллекта на экономику в настоящее время?
— Термин «искусственный интеллект» используют в очень разных интерпретациях. «Сильный ИИ», т.е. техническая система, сопоставимая по способностям с человеческим разумом, существует только как рамка исследований и разработок, и пока даже теоретическая возможность его создания – предмет научных споров. Практически же, в настоящее время под «искусственным интеллектом» чаще понимают набор различных технологий, реализующих отдельные функции человеческого мозга. Такие математические методы и инженерные решения уже давно и прочно вошли в практику и бизнеса и быта: любой современный смартфон, например, содержит обученную искусственную нейронную сеть, которая определяет на фотографиях лица ещё в процессе кадрирования. Без математических методов, относимых к ИИ, уже невозможно представить ни современных вооружений, ни систем бизнес-аналитики, ни систем управления транспортом или производством. В этом смысле – влияние технологий ИИ на экономику реально, и только увеличивается.
— В последние годы очевиден сильный уход социальных, бытовых и экономических процессов в автоматизацию. В законодательстве ЕАЭС и его странах даже приняты целые национальные программы развития по этому направлению. Но пример ФБ показывает одну из проблем, с которыми человек может столкнуться при углублении этого тренда.
Есть ли такой риск – конфликт человеческого фактора и роботизации, при существующем уровне программирования и проникновения цифровых технологий в экономику?
— «Автоматизация» – хороший термин здесь. Развитие нашей цивилизации – это, в том числе развитие автоматизации, уменьшение доли ручного труда в хозяйственной деятельности человека, начиная с водяных мельниц. Эти устройства облегчают жизнь, повышают производительность труда, но в то же время, вносят свои риски. Можно также сказать, что эти риски совокупно растут, если учесть, что автоматические системы управляют многими потенциально опасными процессами, от разогрева пиши в микроволновке до деления урана в реакторах атомной электростанции. Эти риски автоматизации, связанные с несовершенством методов управления или проблем с реализациями систем, несомненно, реальны. Можно сказать, для человечества в этом есть конфликт между возможностью и опасностью развития. А вот конфликт между роботами и людьми в стиле фантастических романов и фильмов вроде «Терминатора» – это пока ещё область далёкой фантастики.
Может ли некая автоматическая система, у которой есть рычаги влияния на среду обитания человека, причинить какой-то вред? Несомненно, и это является местом пристального внимания инженеров, следящих за качеством и безопасностью систем. Можно ли создать некую программу или систему, которая будет очень хитро вредить людям? Несомненно, и это мы видим по изощрённым вирусным атакам. Возможно ли, чтобы это был некий осознанный шаг какого-то суперумного пылесоса или осознавшего себя новой расой кластера вычислительных серверов? Нет, и в обозримом будущем мы такой возможности железякам представить не сможем, при всём возможном желании.
Случай с ботами Фейсбука, как он представлен в СМИ – это одна из глав чьей-то пиар-активности. Трафик на сайты привлекается за счёт броских заголовков. Предположу, что инженеров ФБ сильно повеселила медийная интерпретация одного из эпизодов (может быть и не самого рядового) их научно-конструкторской работы.
— Как будет и может развиваться ситуация в ближайшее время – методы контроля над ИИ?
— Это важный вопрос, который уже поднимается лидерами индустрии, такими как Илон Маск. Практическая реальность такого контроля строится не на боязни возникновения расы злобных терминаторов, а на опасениях по поводу общей управляемости интеллектуальных систем, и последствиями их деятельности, начиная с юридических. Как регламентировать деятельность автоматических агентов там, где ранее был возможен только человек? Например, кто будет отвечать, есть такси с автопилотом убьёт или покалечит пассажира или пешехода? В общем случае это нетривиальный вопрос, требующий учитывать и аспект технологии, и аспект её реализации, и аспект непосредственного применения. Это всё требует очень широкого круга решений, в законодательной области, в области стандартизации «умных» технологий, в области специального контроля качества искусственных агентов и прочих. На мой взгляд, внедрение тех или иных стандартов и регламентов для большинства стран, вовлечённых в процесс разработки и широкой эксплуатации автоматических интеллектуальных систем произойдёт уже в ближайшие 5-7 лет.
— Насколько это дорого, в материальном отношении?
— Это достаточно дорого, и пропорции можно оценить по текущим затратам на стандартизацию или юридическое сопровождение других «неинтеллектуальных» инженерных решений. В любом случае, как бизнес, так и макроэкономика, строятся на наличии совокупной прибыли от процесса. Автоматизация и роботизация должны и будут приносить больше, чем мы совокупно тратим на системы в курсе их жизненного цикла. В противном случае направление просто остановится, как тупиковое.
— Как выгоднее – экономически, и безопаснее – социально, стоит развиваться цифровой экономике?
— Вопрос на миллион биткойнов. Внедрение технологий ИИ – это не рядовая экономическая или научная задача, это, в конечном итоге – перестройка, переработка обществом самого себя. Простых ответов, в общем, нет и быть не может, могут быть программы государственного, отраслевого, корпоративного или персонального уровня, обеспечивающие развитие и внедрение технологий, старт новых бизнесов и исследовательских проектов. И они мало-помалу разрабатываются.
Если обратиться к каким-то важным, с моей точки зрения, частностям, которые следует учитывать в этом процессе на пространстве ЕАЭС, то я бы выделил следующее. Необходимо найти равновесие между централизованным, плановым стилем в реализации исследовательских, инженерных и экономических задач – узкой концентрацией усилий, и децентрализованным, предпринимательским, «гибким» (agile) подходом, позволяющим охватить широкий фронт разработок.
Специфика нашей ситуации в том, что, с одной стороны, страны постсоветского пространства административно тяготеют к первому стилю, и это однажды становится препятствием. С другой стороны, в обществе можно обнаружить некритический оптимизм и запрос к власти по поводу немедленной реализации второго стиля, что может привести к перерасходу общественных средств с низким КПД. Выход, на мой взгляд, не только и не столько в нахождении некоего условно-хорошего количественного соотношения выданных свобод и выделенных финансовых потоков, но и в установке стратегического курса на повышение общей культуры как исследования и предпринимательства, так и государственного администрирования науки и инженерии. Это должно уменьшать совокупные риски. А это уже задачи не только экономики, но образования и культурной политики государства.
Василий Кочанов
§ Деловая Евразия