Евросоюз начал официальное расследование в отношении платформы X под руководством Илоны Маска
Европейский Союз инициировал формальное расследование в отношении социальной сети X, ранее известной как Twitter, после того как искусственный интеллект компании, чат-бот Grok, стал причиной распространения ненадлежащих сексуализированных дипфейков без согласия людей. Этот шаг со стороны европейских регуляторов подчеркивает важность безопасного цифрового пространства и необходимость строгого соблюдения нормативов, установленных в рамках Digital Services Act (DSA).
Расследование стало следствием глобального негодования, вызванного тем, что пользовательские запросы к сервису Grok привели к созданию изображений, где люди изображены без одежды или в откровенной одежде. Примечательно, что ряд исследователей указал на возможность появления изображений, на которых могут быть изображены дети. Некоторые государства уже ввели запрет на использование услуги или выпустили предупреждения о ее потенциальных рисках.
Европейская комиссия объявила, что будет проверять, справляется ли X с требованиями DSA по сдерживанию распространения незаконного контента, такого как «модифицированные сексуально откровенные изображения». Данный аспект представляет особую обеспокоенность, так как речь также идет о возможном наличии контента, который мог бы подпадать под категорию материалов сексуального насилия в отношении детей.
Как сообщают эксперты, расследование охватывает исключительно сервис Grok на платформе X, тогда как его отдельный веб-сайт и мобильное приложение находятся вне сферы действия DSA, так как данный нормативный акт распространяется только на крупнейшие онлайн-платформы. Пока что не установлены сроки завершения расследования, и возможные последствия могут варьироваться от обязательства X изменить свои подходы до наложения значительного штрафа.
В ответ на запрос журналистов представитель платформы указала на прежние заявления компании о стремлении сделать X безопасной платформой для всех, подчеркивая нулевую толерантность к сексуальной эксплуатации детей и ненадлежащему сексуальному контенту. Однако эксперты подчеркивают, что это подтверждение не устраняет необходимости в действиях, подчеркивающих ответственность компании за мониторинг и модерацию контента.
Илон Маск запустил инструмент для работы с изображениями Grok летом. Однако волна нарушений начала нарастать только в последнее время, когда сервис предоставил возможность пользователям модифицировать изображения, загруженные другими пользователями. Это произошло на фоне того, что Musk позиционирует Grok как более «экстравагантный» вариант своей продукции, с меньшим количеством механизмов защиты.
Расследование со стороны Евросоюза также совпадает с аналогичными шагами в Соединенных Штатах, где генеральные прокуроры 35 штатов направили компанию письмо с требованием раскрыть свои планы по предотвращению создания ненадлежащих сексуализированных дипфейков. Они призвали X занять активную позицию в решении проблем, связанных с рисками, которые возникают от использования этой технологии.
Критика со стороны регулирующих органов не ограничивается одним лишь расследованием. В процессе ранее проводимого расследования одной из связанных с платформой X, Брюссель уже наложил штраф на компанию в размере 120 миллионов евро за недостатки, касающиеся незаконных практик обмана пользователей и манипуляций с ними.
Таким образом, ситуация вокруг платформы X и ее чат-бота Grok поднимает важные вопросы об ответственности технологических компаний перед обществом и правительствами, а также о сущности и сложности обеспечения безопасного цифрового пространства в условиях стремительного технологического прогресса. Размышления о пределах свободы слова и защиты гражданских прав в цифровую эпоху остаются актуальными и требуют всестороннего анализа и контроля.
