Стоит ли защищать потребителя от искусственного интеллекта, зачем регулятор расставляет «красные линии» для бизнеса, какие методы и технологии нужны для безопасного взаимодействия с ИИ – обсудили эксперты из разных стран на VI Евразийском цифровом форуме (EADF).
«Нельзя навязывать товары, работы и услуги, которые не нужны потребителю»
Заместитель руководителя Федеральной антимонопольной службы (ФАС) Андрей Цыганов:
– Цифровые рынки глобальны, что, с одной стороны, очень хорошо и полезно, а с другой – вызывает много вопросов у регуляторов с точки зрения защиты интересов государства, бизнеса и потребителей.
В разных странах существует несколько подходов к регулированию цифровых рынков. Например, мы с интересом следили за тем, как в странах Европейского союза готовили The Digital Markets Act («Закон о цифровых рынках». – Ред.), который с нашей точки зрения предлагает слишком упрощенное видение сферы. Условно говоря, «назначили» кого-то технологическим гигантом и потом предъявили к нему требования.
Некоторые страны готовят специальные законодательные акты, которые в той или иной мере модифицируют подходы к уже закрепленным нормам. Есть группа стран, которые стоят на позиции, что того законодательства о конкуренции, которое существует, вполне достаточно. И российские реалии это наглядно демонстрируют.
При этом мы считаем, что жесткое правоприменение должно сочетаться с механизмами «мягкого права». Мы понимаем, что эти рынки очень сложны, требуют колоссальных инвестиций. И это значит, что мы не должны пугать новаторов и инвесторов.
Мы обозначаем «красные линии», которые нужно иметь в виду. То есть регулятор должен показать рынку, какое поведение он приветствует, какое считает опасным, а какое – недопустимым. Отмечу, что разработка документов рекомендательного характера показала свою эффективность.
Очень понятные, краткие принципы взаимодействия:
- нельзя манипулировать информацией в собственных интересах;
- нельзя навязывать товары, работы и услуги, которые не нужны потребителю;
- нельзя предоставлять преимущества своим собственным сервисам;
- нельзя необоснованно ограничивать свободу поведения потребителя и вводить его в заблуждение сложными, запутанными формулировками и неэффективными, необъективными механизмами рассмотрения споров.
Такой подход направлен на то, чтобы компании сами старались соблюсти свою добросовестность.
И, кстати, это стало очень заметно в ковидные времена. Тогда лозунгом ФАС стала фраза: «Нельзя наживаться на боли и страданиях». Большинство предпринимателей очень сознательно и ответственно отнеслись к этому призыву. И даже по статистическим данным заметно, что количество нарушений сократилось.
В прошлом году в Санкт-Петербурге на очередном заседании межгосударственного совета по антимонопольной политике СНГ был принят документ под названием «Модельные принципы участников цифровых рынков государств – участников СНГ». Мы надеемся, что в этом году на заседании Координационного комитета БРИКС будем рассматривать примерно такой же документ, но уже в формате десяти стран БРИКС, которые производят более половины ВВП мира.
Ряд подготовленных нами документов касается рекомендаций для маркетплейсов, в частности, по предотвращению реализации контрафактной продукции. Дело в том, что на этих рынках крайне сложно правильно распределить ответственность между участниками за причинение вреда потребителю. Это вопрос важный и требующий глубокого изучения.
На прошлой неделе на очередном заседании Межгосударственного совета по антимонопольной политике было принято решение о разработке Добросовестных практик участников маркетплейсов по недопущению реализации контрафактной продукции в СНГ. Документ этот подготовлен, мы приступили к обсуждению и планируем в течение года его принять.
Но самое главное, что это не просто разговоры, доклады. Это документы, которые работают. Мы видим это по количеству отозванных с маркетплейсов карточек.
«Потребитель имеет вредные привычки, с которыми надо считаться»
Председатель Союза потребителей Российской Федерации Петр Шелищ:
– Потребитель является заведомо слабой стороной, и, собственно, именно этот факт послужил базовой причиной того, что в гражданском праве появилась отдельная отрасль – потребительское законодательство.
В чем слабость? В меньших возможностях защищать свои права, в меньших компетенциях относительно потребительских характеристик товаров и услуг. Ну и, наконец, в том, что «слаб человек». Да, потребитель действительно имеет вредные привычки, с которыми надо считаться.
В отношении ИИ слабость потребителя многократно усилена тем, что он точно не является заказчиком систем и алгоритмов, в которых используется ИИ.
Более того, эти алгоритмы опережающим образом используются для того, чтобы нас с вами обманывать. Похоже, раньше всех и эффективнее всех ИИ берут на вооружение мошенники. Вот буквально вчера на Петербургском международном экономическом форуме директор департамента информационной безопасности ЦБ РФ Вадим Уваров рассказал, что в прошлом году мошенники пытались украсть у граждан со счетов 2 триллиона рублей, а удалось им выманить только 4 миллиарда.
Газета, в которой я это прочитал, делает вывод, что КПД у мошенников крайне низкий. А я произвел другой расчет, поделив эти самые 4 миллиарда на число телефонных звонков. И получилось, что один такой звонок стоит примерно 300 рублей. И поскольку они автоматизированы, себестоимость звонка в десятки раз ниже. Так что, я думаю, КПД у мошенников очень высокий.
Честно скажу, даже меня неделю назад чуть не «развели». Позвонили и попросили вспомнить, как давно в последний раз обновлялась статья обо мне в «Википедии». И я минут пять общался, пока что-то меня не насторожило. А на следующий день прочитал, что какого-то профессора таким образом «развели» на 1,5 миллиона…
Конечно, государство должно нас от этого защищать. Но я думаю, что все-таки если мы сами себя не будем защищать, то потом претензии предъявлять некому. Оружие нападения всегда опережает средства защиты.
Главное средство защиты потребителя от злоупотреблений, в том числе ИИ, который сейчас стал эффективным инструментом, – это потребительская культура. Я убежден, что ее нужно формировать со школы.
И здесь то, что делается, совершенно прямо скажу, не может удовлетворять. Потому что в России школьное просвещение о правах потребителей сведено к двум урокам обществознания. Конечно, этого недостаточно для формирования основ правовой грамотности. С другой стороны, при насыщенности школьной программы нагружать детей дополнительными уроками – не вариант.
Для этого еще 5–6 лет назад мы предложили дополнить статью Закона о защите прав потребителей таким абзацем: «Потребители имеют право на просвещение, включающее медикобиологические, физикохимические, товароведческие, финансово-экономические, правовые и обществоведческие знания о предметах, способах и последствиях потребления и способствующее формированию ценностей и навыков рационального потребления, защиты прав и законных интересов потребителей».
К сожалению, правительство нас не поддержало. А обоснование у нас было такое, что не надо новых уроков, но надо насытить традиционную сетку школьных дисциплин конкретными иллюстрациями и примерами из реальной жизни. И нам кажется, что эта задача остается важной, и ее стоило бы обсудить в отношении вот такого правового просвещения в школах.
Задача формирования поведенческой культуры приобретает сейчас критическое значение в связи с тем, что называется «устойчивое развитие». Сошлюсь на высказывание Генерального секретаря ООН, который на эту тему говорит немало. По-моему, года два назад он упоминал, что маркетинговые методы, побуждающие потребителей покупать больше, чем они могут потребить, привели к тому, что в 2019 году образовался 931 млн тонн пищевых отходов. Каждый год выбрасывается в среднем 74 килограмма продуктов питания на душу населения…
Добавлю, что есть еще одна область рынка, где представляется очень важным влиять на потребительское поведение и в том числе использовать для эффективного влияния на потребительское поведение ИИ. Это отношение к алкоголю.
Недавно были опубликованы официальные данные о том, что за прошлый год потребление крепкого алкоголя в России выросло на 13%. Меня это не сильно удивляет, учитывая общую социально-экономическую, психологическую напряженность в мире в целом.
И вряд ли государство что-то может с этим сделать в отношении людей, для которых алкоголь стал реальным способом ослабления психического напряжения. Однако надо понимать, что алкоголь алкоголю рознь, и последствия его потребления сильно зависят от типов потребления. Есть так называемый южный тип, для которого характерно употребление слабалкогольных напитков. И северный, свойственный России и Беларуси, где предпочитают крепкий алкоголь.
Решающий фактор для многих потребителей – цена, а последствия потребления преимущественно крепкого алкоголя – это повышенная смертность от так называемых случайных отравлений и болезней, обусловленных чрезмерным употреблением алкоголя.
У нас, к сожалению, не умеют и не хотят считать полную стоимость тех или иных установок, хотя должен сказать, что в официальных стратегиях антиалкогольной политики она многие годы присутствовала. Сейчас установка должна быть на то, чтобы замещать крепкий алкоголь более слабым. И очень хотелось бы, чтобы такие задачи помогал решать ИИ: как переориентировать потребительское поведение, как убеждать власти в необходимости изменения политики в отношении соответствующих сегментов потребительского рынка. Тогда он будет помогать нам всем: и людям, и государству.
«"Ручное взаимодействие" со всем миром практически невозможно»
Заместитель управляющего директора ООО «Интернет Решения» (OZON) Алексей Минаев:
– За последний год, например, в Республике Беларусь мы показали очень хорошие темпы роста: примерно в 2,5 раза увеличились продажи и на 75 % – количество белорусов, которые покупают товары на площадке.
В России количество покупателей составляет 50 млн человек. Общее количество заказов приближается к 1 миллиарду. Такие большие цифры, по сути, делают невозможной ручную работу с товаром. Да, конечно, специалисты по качеству, специалисты в тех или иных категориях товаров анализируют, что это за товар, потребительские характеристики, поставщика этого товара. Но очевидно, что «ручное взаимодействие» со всем миром практически невозможно.
Поэтому мы активно начали использовать ИИ в помощь покупателям и продавцам. Первым, соответственно, помогаем покупать, чтобы человек не сидел по два часа, выбирая то, что ему нужно, а быстро и легко находил товар лучшего качества по лучшей цене.
Ну, а продавцам мы помогаем правильно «упаковать» такой товар, чтобы вся информация была доступна человеку.
Несмотря на то, что, по сути, мы такая виртуальная площадка, которая несет довольно ограниченную ответственность, за исключением некоторых случаев, связанных с защитой прав интеллектуальной собственности, мы не заинтересованы в том, чтобы покупатель купил товар, который вызовет у него отрицательные эмоции.
Может быть, контрафактный товар, товар ненадлежащего качества и так далее. Поэтому мы активно вкладываем деньги в модерацию товаров.
- Во-первых, ИИ в автоматизированном режиме мониторит всю документацию на этот товар. Если приложена фотография, проверяет, не содержит ли она оскорбительного, незаконного контента. Это позволяет довольно серьезно ускорить все бизнес-процессы. Еще недавно в день на маркетплейсе появлялось порядка 2 млн карточек товаров. Сейчас – больше 3 млн.
- Следующая функция ИИ – поиск рекомендации. Может быть, кажется, что это не очень глубокая вещь: ну зашел, поискал. Но когда этих товаров очень много, мы стараемся персонализировать поиск. Эта технология пока еще не очень совершенна, тем не менее мы стараемся в нее вкладываться, и она реально ускоряет поиск товара, покупку товара.
Мы даже проводили эксперименты по целевой группе покупателей, отключая ИИ и давая возможность покупателю самому просто рыться в поиске. И обнаружили, что примерно на 10 % падает объем продаж, потому что без помощи ИИ становится труднее найти товар.
В свою очередь для продавцов ИИ предоставляет другие механизмы: например, помогает лучше прогнозировать спрос на товары в разных регионах. Соответственно, рекомендует, на какой склад отправить товар. Следующий механизм, который мы стали использовать, – это генерация моделей с одеждой. Зачастую на фото изображены не живые люди, а даже если и живые люди, то они фактически не примеряют ту одежду, которую рекламируют. Это все делает ИИ.
Отпадает необходимость в проведении фотосъемок, понижается барьер выхода на рынок.
Что же касается ответственности площадок, то мы все время стараемся балансировать между тем, что вроде бы мы просто витрина и не имеем права вмешиваться в дела продавца, и тем, что общество требует от нас такого вмешательства. Мы постоянно балансируем на этой грани.
Конечно, это очень тяжело, но будем стараться строить диалог.
ИИ – угроза конфиденциальности и этичности?
Директор департамента защиты прав потребителей Российской системы качества Игорь Поздняков:
– Современные покупатели ожидают персонализированного подхода, начиная от индивидуального предложения до доставки покупки или получения услуги, а также быстрого и безболезненного разрешения возможной спорной ситуации.
Однако, к сожалению, многие компании уже вводят для общения с потребителями различные сервисы на основе ИИ. И несмотря на их бодрые доклады о том, что с помощью внедрения этих систем удается снизить затраты, увеличить скорость рассмотрения обращений, ситуация со стороны потребителей не всегда такая радостная.
Дело в том, что периодически мы видим обращения граждан, которым не помогла такая автоматическая система поддержки. В некоторых случаях чат-боты, имеющие ограниченные алгоритмы, не могут справиться с запросами потребителя, направляя ему в ответ либо базовую, бесполезную информацию, либо отсылая к разделу часто задаваемых вопросов и тем самым повторяя цикл снова и снова. В результате проблема потребителя не решается, и он в лучшем случае недоволен, а в худшем – вынужден тратить дополнительные время и средства на решение своих вопросов в претензионном или судебном порядке.
Более того, обозначенные риски становятся еще более значимыми в случае неинформированности потребителя об использовании ИИ или при отсутствии возможности отказаться от взаимодействия с таким сервисом. Поэтому качество поддержки очень важно как с репутационной точки зрения для бизнеса, так и с точки зрения соблюдения потребительских прав.
Другой яркий пример связан с развитием и широким распространением так называемого генеративного ИИ, который используется для создания разного рода контента. Учитывая тренд последних лет на массовый уход покупателей в онлайн-формат и доставку товаров на дом в режиме 24/7, интернет-продавцы придумывают новые способы привлечения клиентов и отстраивания от конкурентов.
Вырастают риски манипулирования информацией и введения потребителя в заблуждение.
Одно из главных условий для развития ИИ – доверие граждан технологиям. Между тем, согласно опросу Всероссийского центра изучения общественного мнения, около 87 % граждан России в той или иной степени знают технологии ИИ, в то время как доверяют им чуть более половины. И главная причина недоверия связана с тем, что в работе ИИ могут возникать ошибки или сбои, которые могут привести к утечке персональных данных или нарушению тайны частной жизни.
Опасения, нужно сказать, весьма оправданы, так как многие информационные системы подвержены рискам мошеннических атак как на стадии обучения, так и эксплуатации моделей.
Если рассматривать применение технологии ИИ на финансовом рынке, который в Российской Федерации является лидером по уровню ее внедрения, одним из основных направлений использования ИИ в этой сфере является скоринг, позволяющий более точно сегментировать клиентов на однородные группы, определять потребности.
Оценки, управляемые с помощью ИИ, могут быть полностью автоматизированы и предлагать моментальные решения на основе данных. Например, если человек хочет взять кредит, то оценивается прежде всего кредитная история, однако у гражданина ее может не быть. И поэтому здесь могут применяться другие данные: привычки, данные социальных сетей и т.д.
Применение таких данных в финансовом секторе вызывает ряд опасений не только у потребителей, но и у регуляторов в части защиты конфиденциальности и этичности использования. По этой причине законодательство многих стран ограничивает неконтролируемое применение алгоритмов ИИ, опасаясь непреднамеренной дискриминации заявителей или иного ущерба для них.
Принципы снижения рисков от использования ИИ
Начальник отдела по защите прав потребителей, ЕЭК, Лидия Осауленко:
– В контексте обсуждения мы сформулировали несколько основных рисков для потребителей, связанных с использованием ИИ. Их можно обозначить как сложность, непрозрачность алгоритмов ИИ, неконтролируемый доступ к личной информации потребителя, отсутствие механизма адекватной оценки решений, которые принимает ИИ, проблемы правового регулирования и формирования добросовестной деловой практики в данной сфере.
Исходя из них, мы подготовили несколько принципов, соблюдение которых позволит минимизировать риски для потребителей.
- Первый принцип мы отмечаем как «прозрачность». То есть ИИ должен быть понятен для потребителя, а предприниматели должны предоставлять ясную информацию о том, как работает эта система и какие данные используются для ее обучения.
- Второй принцип – ответственность. Предприниматели должны, безусловно, нести ответственность за негативные последствия, если они возникнут.
- Третий принцип – контролируемость. Потребители должны иметь возможность контролировать использование своих личных данных. Или воспользоваться возможностью удалить их, или ограничить использование. Безусловно, системы ИИ должны разрабатываться с учетом этических норм, культурных ценностей общества, чтобы не допускать дискриминации или ограничения прав граждан.
- Четвертый принцип – актуальность. Необходимо продолжать исследования в этой области, создавать новые продукты, услуги, которые будут безопасны для их применения в сфере.
Также мы полагаем возможным обозначить в программе совместных действий Союза на период 2026–2030 гг. формирование комплекса мер по защите граждан при использовании систем ИИ.
Вы — предприниматель или топ-менеджер? Платформа Myfin.by помогает быстро найти и сравнить кредиты для бизнеса на любые цели: от улучшения оборота до расширения. Сравните предложения всех банков и подайте заявку без лишних шагов!
Почему Myfin.by?
- Сравнение всех предложений — получите лучшие ставки и условия от ведущих банков.
- Простота и удобство — выбирайте условия и оформляйте заявку онлайн, без визитов в банк.
- Экономия времени — забудьте о часах поисков и бумажной волоките.
- Полная прозрачность — ясные условия, никаких скрытых комиссий.
Планируете расширение или модернизацию бизнеса? Найдите подходящий кредит на Myfin.by и получите деньги на развитие прямо сегодня!