Проблемы и риски, о которых стоит помнить, развивая ИИ, технологии больших данных и IoT

16 января 2020 года Центр подготовки руководителей цифровой трансформации, сформированный на базе Высшей школы государственного управления РАНХиГС, сообщил, что совместно Высшей школой экономики составил доклад о главных этических проблемах и рисках, вызываемых в России цифровыми технологии, а также возможных путях их решения. [3]

В докладе эксперты представили главные проблемы этики работы с данными, этики искусственного интеллекта (ИИ) и интернета вещей (ИВ).

Работа с данными

Как отмечается в докладе, большинство участников рынка данных - представители бизнеса, которым выгодно собирать как можно больше данных пользователей. Посредством сбора, обработки и продажи данных компании извлекают сверхприбыли. Капитализация ИТ-гигантов составляет миллиарды долларов.

Им выгодно продолжать массовый сбор данных их основного ресурса и источника дохода, поскольку пользователям проще согласиться, чем разбираться детально, какие данные они отдают, - заявляется в докладе.

Его авторы также обращают внимание на отсутствие информации у пользователей об обращении с их информацией. По мнению экспертов, пользователи почти никогда не знают:

• какие данные о них собираются;

• у кого и насколько надежно они хранятся;
• сколько компаний, людей и государственных органов каких именно стран имеют доступ или возможность получить доступ к этим данным;
• какие их социальные связи с какими другими людьми прослеживаются;
• как удалить свои данные в базах компаний, отозвать свое согласие.

Инфляция приватности - со временем пользователи отдают все больше данных за тот же объем услуг и комфорта - и монополизация рынка цифровых услуг могут иметь серьезные последствия, - замечается в докладе.

Государство является владельцем большого количества данных граждан и организаций и в перспективе может собирать их еще больше, уверены авторы доклада. При этом, по их мнению, государство отстраняется от законодательного ограничения бизнеса при обороте данных, предпочитая использовать собранные данные о гражданах в своих целях.

Государство отстраняется от законодательного ограничения бизнеса при обороте данных, предпочитая использовать собранные данные о гражданах в своих целях, утверждают авторы доклада

Некорректная работа с данными государства, как утверждают эксперты, может быть чревата следующими рисками:

• непреднамеренное создание алгоритмов и систем принятия решений, дискриминирующих отдельные группы населения из-за недостаточно тщательного отбора данных для обучения алгоритмов;
• конфликт интересов общества и отдельных групп граждан и общественное неприятие инициатив, в том числе из-за отсутствия информационной поддержки и предварительной работы с общественным мнением;
• принятие на государственном уровне неверных решений с далеко идущими последствиями в виде финансовых, репутационных и иных потерь для государства;
• непреднамеренное нарушение законов госслужащими по причине неэтичного использования данных, повлекшего за собой значительный ущерб.

Авторы доклада также заявляют о ряде других негативных последствий, происходящих из-за действий государства в отношении данных:

• сложности и замедление развития технологий искусственного интеллекта как результат зарегулированности доступа к данным;
• утечки данных.

Решение проблем этики данных в России авторы доклада видят в национальной концепции или стратегии развития рынка данных, соблюдающей принципы, в том числе этические, госрегулирования рынка и учитывающая степень участия государства.

Искусственный интеллект

По мнению экспертов, привнести этичность в саму технологию искусственного интеллекта сложно, так как моральный выбор не имеет четко обозначенных нормами закона границ.

Поэтому в области искусственного интеллекта на первый план выходит проблема этичности его «поведения», так называемой машинной этики, в ситуации, когда решение касается людей, и сопряженные с ней этические проблемы, - отмечается в докладе.

Среди обозначенных проблем авторы доклада выделяют следующие:

• ответственность за этичное/неэтичное поведение искусственного интеллекта, за принятие ошибочных решений, ущерб из-за сбоев и т.п.;

Решением данной проблемы авторы доклада считают различные варианты: от личной ответственности роботов до полного освобождения кого-либо от ответственности за действия искусственного интеллекта.

• предвзятость систем искусственного интеллекта в целом и программ-советчиков в частности;

Для того, чтобы система искусственного интеллекта была справедливой, необходимо исключить предвзятость и предубеждения в исходных данных, на которых ИИ обучается. На практике даже при тщательной подготовке данных это не всегда возможно, - обращают внимание авторы доклада.

• прозрачность решений искусственного интеллекта и приватности пользовательских данных при его применении;

Одним из подходов к решению проблем приватности, прозрачности и предвзятости искусственного интеллекта эксперты считают создание стандартов на разработку этически ориентированных интеллектуальных систем.

• надежность искусственного интеллекта.

Стандартизация призвана повысить надежность систем искусственного интеллекта и установить минимальный уровень, находясь ниже которого, система не может считаться надежной. В то же время эта планка не должна быть превышать возможности сегодняшних технологий, чтобы разработчики не были ограничены в процессе создания новых прорывных решений и не уводили часть технологий с легального рынка, - заявляют авторы доклада.

Интернет вещей

Ключевыми проблемами интернета вещей авторы доклада обозначают нарушение конфиденциальности и падение доверия к интернету в целом. Помимо устройств интернета вещей для личного использования, вызывающих наибольшее число этических вопросов, эксперты обращают внимание на проблемы, связанные с интернетом вещей в промышленности, торговле и на транспорте. Это такие проблемы, как приватность и сохранность личных данных.

Во многих случаях данные, используемые для аналитики, генерируются автоматически - например, путем отслеживания онлайн-активности, а не предоставляются людьми сознательно. Возникает проблема скрытого сбора данных, которые «могут быть использованы против вас». Пользователю приходится доверять устройствам интернета вещей, подключенным к сети, не зная при этом, собирают ли и передают ли устройства его данные или нет. Повышается риск утраты максимально чувствительных данных, - отмечают авторы доклада

Помимо того, они обращают внимание на трудность определения владельцев данных, получаемых интернетом вещей с помощью датчиков и приборов, а также границы между личной информацией и общественной. Принцип информированного согласия на сбор и обработку личных данных, полученных при использовании устройств и услуг интернета вещей, по мнению авторов доклада, неэффективен для защиты прав пользователей, так же как и согласие на обработку прочих данных.

Создание юридических механизмов обычно отстает от фактической бизнес-практики. Выходом становятся коллективно разработанные и согласованные всеми заинтересованными сторонами этические стандарты, - заявляют эксперты.

Направления решения этических проблем цифровых технологий

Авторы доклада также обозначают ряд общих направлений решения этических проблем, связанных с цифровыми технологиями. Это такие направления, как:

• обеспечение необходимого регулирования;

Регулятор должен находить баланс между поддержкой технологических инноваций и необходимостью защищать общество от возможных рисков, связанных с их внедрением, - заявляют эксперты

При этом они отмечают, что в случае новых технологий, проблематично заранее предсказать все риски, которые могут возникнуть при их использовании, и максимально точно определить вероятность их наступления. В результате этого, по их мнению, невозможно установить разумные правовые требования и ограничения для деятельности, связанной с использованием технологий, поэтому вопрос адекватного регулирования такой деятельности остается открытым.

• создание этических кодексов и руководств применительно как к определенным технологиям, так и к различным сферам деятельности;
• обеспечение доступности цифровых услуг для граждан и создание «аналоговых интерфейсов»;

Серьезным вызовом для государства является обеспечение гражданам как полноценной доступности цифровых услуг, так и создание «аналоговых интерфейсов» — вариантов альтернативного, нецифрового, доступа к услуге. В этом случае сам процесс предоставления услуги остается полностью цифровым, но категории граждан, не имеющие доступа к цифровым услугам, получают их в привычном, нецифровом, виде, - поясняют авторы доклада.

• включение этики в образование в области технологий.

В учебные программы тех или иных цифровых технологий школ, вузов или дополнительного профессионального образования, по мнению экспертов, необходимо вносить прикладную этику технологий. Учащиеся, как полагают авторы доклада, должны получать знания об этических рисках и последствиях применения технологий.

Источник.