- Оригинал статьи
- Объяснение
Лукина М.М.1 , Замков А.В.1 , Крашенинникова М.А.1 , Кульчицкая Д.Ю.2
1 Московский государственный университет имени М.В. Ломоносова, г. Москва, Российская Федерация
2 Новый болгарский университет, г. София, Болгария, 2022 г. https://jq.bgu.ru/reader/article.aspx?id=25519&ysclid=mgp3pwrzl2435075378
Аннотация
Искусственный интеллект постепенно становится неотъемлемой частью работы российских СМИ и журналистов, внедряясь в разные сферы медийных практик, в том числе, в поиск и верификацию информации, распознавание речи, звуков и изображений, выделение приоритетных тематик, создание текстов и их таргетированную дистрибуцию и др. Российскими лидерами в медиасфере являются Интерфакс, Sports.ru, РИА Новости. Технологии искусственного интеллекта проникают также в работу журналистов, замещая их отдельные рутинные действия. В этой связи перед профессиональным медийным сообществом неизбежно встают вопросы о новых вызовах этического регулирования, об их корреляции с ежедневными вопросами морального выбора редакций и журналистов. Опираясь на историю зарубежного и отечественного дискурса, касающегося философско-этических проблем технологий искусственного интеллекта, проанализировав выработанные в разных странах кодексы этического регулирования ИИ, изучив научные публикации исследователей, посвященные этическим проблемам, встающим перед редакциями и журналистами в процессе внедрения алгоритмических решений, авторы выделяют основные положения, которые необходимо учесть в процессе выработки этических норм использования искусственного интеллекта в медиа и журналистике. К основным вопросам, требующим обязательной кодификации, авторы считают необходимым отнести: транспарентность со стороны редакций и право аудитории на информацию о применении искусственного интеллекта в редакционных практиках, запрет на передачу полномочий искусственному интеллекту в вопросах нравственного выбора при подготовке медиаконтента, совместную ответственность редакции и разработчиков программного обеспечения за последствия работы систем искусственного интеллекта, определение круга потенциальных тем, к которым этически неприемлемо применение искусственного интеллекта и др. Данная статья является приглашением к дискуссии медийного и академического сообщества о необходимости этической кодификации применения технологий искусственного интеллекта в медиа и журналистике.
Ключевые слова. Искусственный интеллект, этика, журналистика, медиа, редакция, средства массовой информации.
Введение
Стратегии по развитию и внедрению искусственного интеллекта (ИИ) в разные отрасли экономики регулярно обсуждаются правительствами, индустриальными и общественными организациями разных стран мира. Параллельно и неизбежно появляется актуальный запрос на этическое регулирование, как в ходе международных и национальных обсуждений по использованию ИИ, так и в качестве инициатив снизу — от IT-гигантов или общественных организаций. Например, в США уже разработано более 20 кодексов этического регулирования ИИ, чуть меньше (19) в Евросоюзе. Такой же процесс начался и в России. В октябре 2021 г. в Москве крупнейшие российские IT-игроки — Яндекс, СБЕР, Ростелеком, VK, МТС и другие — подписали «Национальный кодекс этики искусственного интеллекта». Это событие в рамках I Международного форума «Этика искусственного интеллекта: начало доверия» активно освещалось в прессе. Основные акценты в кодексе сделаны на антропоцентричности, предосторожности, подконтрольности, ответственности, нравственности, недискриминации и пр. Авторы данного кодекса предполагают, что в ближайшие месяцы к нему присоединятся еще около 100 организаций из государственного, научного и коммерческого сектора. Искусственный интеллект все интенсивнее проникает в работу СМИ. Поиск информации, распознавание речи, звуков и изображений, выделение приоритетных аспектов тематик, создание текстов и их таргетированное распространение — вот неполный перечень внедрения элементов ИИ в редакционные практики. Первыми осваивать технологии искусственного интеллекта для создания контента стали крупные западные медиа — Associated Press, Reuters, Bloomberg, Los Angeles Times и др. Российскими лидерами в сфере внедрения ИИ являются Интерфакс, спортивное интернет-издание Sports.ru, РИА Новости и др. Но и прочие российские медиакомпании, в том числе отдельные локальные издания, начинают рассматривать возможность внедрения таких высокотехнологичных решений. Однако начинать обсуждать внедрение редакциями искусственного интеллекта необходимо неразрывно и параллельно с этической стороной применения технологий ИИ в повседневных медиапрактиках, возможно, актуализируя имеющиеся профессиональные этические кодексы журналиста, которые созданы в доцифровую эпоху, или создавая новые правила. В статье обобщаются на теоретическом и прикладном уровне этические проблемы, которые возникают в связи с применением технологий в целом и искусственного интеллекта,в частности, в разных сферах жизни общества. Особое внимание уделяется этическому аспекту применения алгоритмов и нейросетей в медиа и журналистике. Теоретические положения базируются на анализе вопросов взаимодействия машины и человека, которыми в разные годы интересовались мыслители и ученые. Авторы уделяют серьезное внимание существующим этическим кодексам, касающимся применения искусственного интеллекта, принятым в разных странах мира.
Цель статьи — открыть академическую и профессиональную дискуссию о необходимости этической кодификации применения технологий искусственного интеллекта в разных сферах медийных практик, в том числе в работе журналистов. Выводы и рекомендации, предложенные авторами, основаны на анализе научных трудов отечественных и зарубежных исследователей, посвященных внедрению и эксплуатации технологий, в том числе взаимодействию человека с системами искусственного интеллекта, анализе имеющихся этических регламентов и кодексов, а также трудов, поднимающих вопросы, проблемы и вызовы, встающие при применении технологий искусственного интеллекта в редакционных практиках и работе журналистов.
Данный раздел посвящен академическому дискурсу, в котором рассматриваются вопросы взаимодействия человека и технологий в контексте этических ценностей. Общим заблуждением до недавних пор являлось представление о феномене технологии как о чисто утилитарном и сравнительно пассивном явлении, к тому же нейтральном по отношению к идеологии, политике, а также моральным ценностям. Однако опыт внедрения технологий искусственного интеллекта в новую область гуманитарных вычислений показал, что замена рутинных практик высокими технологиями имеет долгосрочные и неоднозначные последствия, в том числе этического характера.
Дискуссионный вопрос «Будут ли технологии определять наше развитие или мы будем участвовать в развитии технологий?»[1], как оказалось, не является риторикой технологического детерминизма, а имеет глубокие корни в истории социальных отношений [2]. Попытки осмысления и обсуждения социальных и этических проблем сопровождали всю историю технического прогресса на уровне философского, научного и публичного дискурса, начиная с античности и до наших дней [3]. Безусловно, любой обзор этих дискуссий будет неполным, поэтому мы ограничимся упоминанием лишь наиболее значимых фрагментов. Предыстория отечественного дискурса по философско-этическим вопросам взаимодействия человека и технологий включает, в первую очередь, статьи Н. Бердяева, освещающие этические вопросы взаимоотношений человека и машины [4; 5]. Понятие машины используется в работах Бердяева в широком, обобщенном философском смысле как система тотальных отношений механицизма, которые разрушают органическую целостность человека. Написанные в эпоху Первой мировой войны, эти работы, вероятно, одними из первых поднимают вопрос о возможной враждебности техники как средства самоуничтожения человека. В дальнейшем философ снова возвращается к теме взаимоотношений человека и машины, подчеркивая готовность человека изменить свой образ ради обезличенного предмета его «последней любви» — техники, а причину этого он усматривает в смещении баланса ценностей к полюсу рационализма, что превращает человека в универ. Анализируя более поздний отечественный дискурс, нельзя пройти мимо зарождения проблематики искусственного интеллекта в СССР в 50-е гг. ХХ в. на фоне проникновения идей кибернетики Норберта Винера в социально-гуманитарное знание. Винер уделил большое внимание этическим вопросам новой дисциплины, особенно в своем последнем вышедшем посмертно сочинении «Творец и робот» [6]. Уже тогда ему было ясно, что любые технологии искусственного интеллекта являются технологиями двойного назначения. В связи с этим он выразил обеспокоенность возможностью применение «разумных» машин как в военной индустрии, так и в боевых операциях. Возможное решение проблемы Винер видел в выводе критических направлений научных исследований из-под контроля военно-промышленного комплекса и создания института социального контроля (экспертизы). Сегодня, когда первичная волна кибернетического хайпа почти спала, проблема отдаленных гуманитарных последствий массового распространения искусственного интеллекта оказалась вовсе не надуманной, и многие этические предостережения умозрительного характера получили конкретные обоснования. Одним из примеров таких гуманитарных последствий может служить резонансная история с системой «Терак-25» — серии инцидентов с летальным исходом из клинической практики радиационной терапии [7]. К сожалению, наряду с известными достижениями множатся примеры катастроф и конфликтов, связанных с технологиями искусственного интеллекта, поэтому следует ожидать, что актуальность создания средств этического контроля отношений с ИИ будет только расти [8]. Очередной всплеск интереса к проблемам этой научно-технической области наступает после революции микроминиатюризации в электронике. Прорыв в быстродействии машин позволил имитировать отдельные функции высшей нервной деятельности человека и даже конкурировать с ним с помощью простых, но быстрых алгоритмов перебора. Так или иначе, но последовал новый цикл обсуждений экзистенциальных проблем ИИ. Среди наиболее известных подходов — этические кодексы для разработчиков и пользователей систем [9], этический аудит [8], системы распределения ответственности в человеко-машинных коммуникациях [10; 11], медийные рекомендательные системы [12], этические средства цифровых экосистем [13] и т.п.
Следует отметить, что два последних упомянутых подхода связаны с ИИ-решениями в сфере автоматизации медиа, которые сегодня получили статус «онтологического сдвига» в робожурналистике. Его сущность выражается в изменении ролевых отношений между человеком и машиной в системе цифровых коммуникаций, а также оценок этих изменений общественным мнением [14; 15]. Машинная часть системы изначально проектировалась как медиатор для обмена сообщениями, однако постепенно ее функция трансформировалась в коммуникатора [16]. Представленная разнообразными программами-генераторами новостей «новая роль» оказалась доминирующей, а некоторые исследователи медиа отмечают, что люди стали склонны воспринимать программы как полноценных «социальных акторов»[17; 18]. Подобные сдвиги говорят о том, что усиление влияния технологий ИИ на уровне медийных практик ставит под сомнение традиционный приоритет антропоцентрических допущений теории медиа. В связи с развитием разнообразных технологий возникло такое понятие, как технологическая этика, или техноэтика. Под этим термином понимают применение этических законов к технологическим новациям. Этика искусственного интеллекта в свою очередь является одним из направлений в рамках техноэтики. В контексте рассуждений об этике ИИ в сфере медиа и журналистики стоит сказать, что профессиональная деятельность журналиста сейчас затрагивает множество разных аспектов, связанных с технологиями. В связи с этим журналистам приходится учитывать эти трансформации, а также корректировать и уточнять некоторые положения этических кодексов. Этические кодексы по использованию искусственного интеллекта Регуляторы по использованию ИИ, как правило, подразумевают две разные формы этического контроля — робоэтику, которая в большей степени обращена к вопросам создания и эксплуатации систем ИИ человеком, и машинную этику, суть которой сводится к гуманизации поведения искусственных моральных агентов. На протяжении последних лет в мире издается все больше этических кодексов, направленных на осмысление возможностей ИИ по отношению к человеку и относительному регулированию моральных критериев его эксплуатации. Этические аспекты использования ИИ в разных отраслях экономики все чаще затрагиваются и в различных документах, обобщающих на сегодняшний момент современный опыт взаимодействия человека и «умной машины». В частности, вопросы этики были затронуты и в «Индексе искусственного интеллекта 2022», подготовленным Стэнфордским университетом1.
Среди магистральныхтем данного аналитического отчета — возрастающая роль этического регулирования искусственного интеллекта, в том числе прозрачность его использования, справедливость и непредвзятость. В отчете также делается акцент и на правовое поле существования ИИ. Так, самое большое число законов в области ИИ было принято в 2021 г. в США, Испании и Великобритании. Россия также является одним из лидеров по объему правового регулирования в области ИИ. В мире на данный момент существует несколько десятков различных этических кодексов, которые так или иначе регулируют сферу применения искусственного интеллекта. Некоторые из них сформулированы государственными организациями, а некоторые отражают то, как крупные корпорации видят этические вопросы взаимодействия машины и человека. Среди самых значимых национальных и наднациональных этических кодексов стоит выделить так называемые «Принципы искусственного интеллекта» в США, Китае, а также в Европейском союзе. США и Китай являются признанными лидерами в сфере развития систем ИИ, поэтому их регламенты представляют собой особый интерес. В этих документах рассматриваются самые разные аспекты использования алгоритмов. Например, в документе, разработанном в США в 2019 г., выделены такие базовые принципы работы ИИ, как общественное доверие к алгоритмам, участие общества в регулировании алгоритмов, а также прозрачность в использовании систем ИИ. Всего в документе сформулированы десять принципов2. В Китае одним из основных этических кодексов считается тот, который разработан в 2019 г. Китайской академией по искусственному интеллекту3. В этом регламенте в довольно лаконичном стиле изложены основные положения, которые китайские ученые считают важными в сфере ИИ. Первая часть документа посвящена разработке систем ИИ, вторая связана с его использованием, а третья — с управлением подобными системами. Регламент также раскрывает технические детали, связанные с тем, кто является разработчиком этих принципов и какие государственные организации подписали документ. Авторы данного регламента отмечают, что при разработке систем искусственного интеллекта необходимо соблюдать принципы гуманизма и ориентироваться на общественное благо. Кроме того, следует опираться на этичные алгоритмические решения, а также учитывать риски, которые могут возникнуть в связи с внедрением ИИ в будущем. Отдельное внимание уделяется принципам разнообразия и инклюзивности, которым нужно следовать при разработке алгоритмов и нейросетей. Европейские рекомендации по этическим регламентам применения искусственного интеллекта является наиболее детальным по сравнению с двумя предыдущими документами4. В этом объемном документе излагаются вопросы, связанные с конфиденциальностью при использовании искусственного интеллекта, экономическим благополучием граждан и пр. По мнению авторов документа, надежные системы ИИ обладают тремя ключевыми характеристиками — законностью, этичностью и надежностью. Этические принципы, которые предлагает Европейский союз, базируются на представлениях об автономности человека, необходимости предотвращения возможного вреда от ИИ, справедливости и принципа объяснимости. На статье немецкого исследователя Тило Хагендорффа «Этика искусственного интеллекта: разбор кодексов» [19] стоит остановится подробнее. Ученый подверг тщательному анализу 22 кодекса, посвященных этическим вопросам в области искусственного интеллекта. Он отметил, что чаще всего в них затрагиваются вопросы, связанные с открытостью и справедливостью работы алгоритмов, кибербезопасностью и персональными данными пользователей, прозрачностью и отсутствием дискриминации при функционировании систем искусственного интеллекта. В то же время, анализ показал, что в этических кодексах практически не учитывается необходимость независимой научной экспертизы при возникновении спорных ситуаций. Как справедливо отмечает Хагендорфф, многие исследования в этой сфере спонсируются корпорациями, которые являются разработчиками искусственного интеллекта, что часто приводит к конфликту интересов. Ученый отметил еще одну проблему, которой практически не уделяется внимание в таких документах, — использование алгоритмических решений для манипуляций и политической пропаганды. Наконец, в существующих этических документах упускается из виду необходимость соблюдения принципа разнообразия при создании коллективов, разрабатывающих и совершенствующих системы ИИ, нейросети. В таких исследовательских группах должны участвовать представители разных стран, а также соблюдаться гендерный баланс. На данном этапе, отметил автор, алгоритмы создаются преимущественно мужчинами, а национальное разнообразие вовсе не рассматривается в качестве приоритета. Хагендорфф выделяет еще одну проблему, связанную с авторством этических кодексов. Как правило, это специалисты из компьютерной индустрии, а не люди, имеющие философский или академический бэкграунд. По мнению ученого, необходимо встроить этику искусственного интеллекта в более широкий аксиологический контекст, что поможет уйти от излишней техноцентричности некоторых этических кодексов. В настоящее время этическое регулирование ИИ является одной из магистральных тем для обсуждения на самых разных уровнях — от индустриального до академического и политического сообществ. Яркий пример — принятый в октябре 2021 г. в России первый «Национальный кодекс этики искусственного интеллекта», который обсуждался крупнейшими российскими IT-игроками. Основные положения этого кодекса отражают общепринятые моральные паттерны и демонстрируют человеко-ориентированный и гуманистический, а также риск-ориентированный подходы. Данный кодекс основан на уважении автономии и свободы воли человека, его недискриминации, а также на ответственном отношении к закону и его соответствии, оценке рисков гуманитарного воздействия, предосторожности и не причинении вреда, идентификации ИИ в общении с человеком, информационной безопасности и безопасности работы с данными и т.д. Безусловно, применение настоящего Кодекса может быть весьма широким и отражать практики различных экономических субъектов, в том числе средства массовой информации, к которым вполне применимы все перечисленные выше положения. Однако необходимо отметить, что социальная ориентированность медиа, их общественная миссия и способность воздействовать на аудиторию, производить разного рода эффекты все же подразумевают более «тонкую» настройку этического регулирования, касающегося использования искусственного интеллекта, в том числе в области генерации и дистрибуции текстов, рекомендательных сервисах и пр. Отметим также, что в целом возможности применения ИИ в редакционных практиках и их влияние на человека еще не до конца осознаны профессиональным и академическим сообществом, а вопросы этики в контексте использования в медиа до сих пор не попали в топовые темы профессионального медийного сообщества. Искусственный интеллект в медиа: трудности этического регулирования Медиа и журналистика уже не первый год используют технологические инновации, связанные с искусственным интеллектом. От отдельных экспериментов редакции и конкретные журналисты постепенно переходят к более серьезному и осмысленному внедрению в свои рабочие практики систем с элементами искусственного интеллекта. Как отмечают исследователи из Института Reuters, наиболее часто в журналистской среде встречаются такие алгоритмические решения искусственного интеллекта, которые помогают в процессе сбора, обработки и проверки источников информации, автоматизации процессов в ньюсруме (расстановка тегов, расшифровка записей и пр.), настройке рекомендации для пользователей на сайте, а также способны генерировать тексты [20]. Так как применение технологий искусственного интеллекта до сих пор не стало общепринятым явлением в большинстве редакций, вопрос о внесении изменений в этические кодексы и редакционные стандарты пока активно не поднимается профессиональным медийным сообществом. Однако размышления о возможных профессиональных этических конфликтах, связанных с применением ИИ в редакциях и журналистами, и о потенциальных моральных рисках можно встретить и в экспертных оценках, и в академическом дискурсе. Так, например, обсуждается вопрос о влиянии алгоритмов ИИ на одну из фундаментальных ценностей в сфере журналистской этики, которой является объективность и непредвзятость. Эти категории, закрепленные в кодексах журналистской этики всех стран мира, подразумевают умение журналиста быть над схваткой, освещать все точки зрения, не занимать чью-либо сторону, уйти от субъективных оценок, что в жизни достичь крайне трудно. Эту задачу смогут решить системы искусственного интеллекта, а в редакциях смогут избежать субъективной оценки, так как для сбора информации и генерации текстов были применены алгоритмы, а не труд человека, наделенного собственными взглядами и стереотипами. В этом случае можно говорить о так называемой «механистической объективности» [21]. Технооптимисты считают, что ИИ может обладать универсальной объективностью, так как исключается человеческий фактор. Однако многие ученые не принимают такой подход и считают его слишком идеалистичным. Так, Карлсон [там же] отмечает, что алгоритмам не стоит приписывать универсальную объективность, так как на практике они также могут допускать ошибки, однако природа этих промахов иная по сравнению с автором-человеком. Исследователь считает, что наделение алгоритмов некой механистической объективностью несет в себе определенные риски, может привести в тому, что само понятие профессиональной объективности в деятельности журналиста начнет размываться. В отличие от технооптимистов приверженцы более критического отношения к технологическим новациям предлагают концепцию так называемой «алгоритмической предвзятости» (по англ. algorithmic bias). Согласно этой концепции, алгоритмические решения могут способствовать проявлению субъективности в силу особенности работы того или иного алгоритма [22]. Еще одна проблема, которую необходимо решить при разработке этического кодекса, связанного с применением ИИ в современной журналистике, — это маркировка текстов и продуктов, созданных с помощью алгоритмических решений. Проведенные российскими учеными исследования доказали, что не все редакции в этом плане транспарентны, не все из них считают необходимым знакомить своих читателей с тем, что они потребляют новости, написанные с использованием автоматических генераторов контента [23; 24]. Необходимо также обратить внимание на потенциальную возможность диффамации в тексте, который написан алгоритмом. О такой угрозе задумываются специалисты из разных стран. Например, группа исследователей из США [25] рассуждает о том, кто должен нести ответственность в том случае, если в материале, созданном машиной, содержится информация, порочащая честь и достоинство одного человека или группы людей. Такие рассуждения находятся в области теоретических дискуссий, так как в реальной практике пока подобные прецеденты не встречались. Однако в недалеком будущем специалистам по медиаправу, возможно, придется столкнуться и с такими казусами. Хотя применение алгоритмов и нейросетей в журналистике пока не привело к выработке универсальных этических правил, можно с уверенностью говорить о том, что этическая сторона этих технологических новаций привлекает все больше внимания как журналистов-практиков, так и медиаисследователей. Так, состоявшаяся в конце 2021 г. на базе Лондонской школы экономики онлайн-конференция была посвящена исключительно этике искусственного интеллекта и тому, как она соотносится с профессиональными этическими правилами журналиста. Среди выступающих были не только ученые, но и представители индустрии. Осмыслением этических аспектов использования искусственного интеллекта в медиа занимается и такая известная организация, как американский Фонд Найт (Knight Foundation), которая в рамках своей деятельности описывает современные практики применения ИИ в крупных и локальных медиа, анализирует этически сложные кейсы и ситуации, которые возникают при внедрении этой новой технологии.
Выводы и рекомендации
Освоение редакциями и журналистами технологий искусственного интеллекта ставит перед профессиональным сообществом задачи этического регулирования этих инновационных практик, вплоть до внесения изменений или дополнений в устоявшиеся этические кодексы. Это обусловлено социальной значимостью профессии, ее общественной миссией, особенностями работы журналиста с источниками информации, рекомендательными сервисами, таргетированной дистрибуцие контента, а также возможными эффектами воздействия на аудиторию. Предложенные рекомендации об этическом нормировании медиа и журналистики в связи с внедрением технологий ИИ сформулированы авторами на основе зарубежного и отечественного дискурса, касающегося философско-этических проблем взаимодействия человека и машины, этических вопросов, встающих в связи с применением технологий искусственного интеллекта, результатов анализа кодексов этического регулирования ИИ, выработанных в разных странах мира. Источником выводов послужили также научные труды медиаисследователей, которые изучают проблемы внедрения технологий искусственного интеллекта в редакционные практики и деятельность журналистов. Для последующего обсуждения выделяются следующие ключевые положения, которые необходимо учесть в процессе дискуссии при выработке этических правил использования искусственного интеллекта в медиа и журналистике, т.е. их кодификации. К ним относятся:
Во-первых, транспарентность работы редакций, сохранение за аудиторией права на информирование о взаимодействии с искусственным интеллектом;
Во-вторых, запрет на передачу полномочий искусственному интеллекту в вопросах нравственного выбора при подготовке медиаконтента;
В-третьих, совместная ответственность редакции и разработчиков программного обеспечения за последствия работы систем искусственного интеллекта;
В-четвертых, определение круга потенциальных тем, для работы над которыми этически неприемлемо использование искусственного интеллекта.
Перечисленные предложения по этическому регулированию использования систем искусственного интеллекта в редакционных практиках могут служить как дополнением к существующему профессиональному этическому кодексу журналиста, так и оформиться в отдельный этический норматив, по работе медиа и журналистов с искусственным интеллектом. Эти предложения также могут быть учтены при разработке профессиональных стандартов отдельных редакций и журналистских коллективов.