Власти округа Харрис хотят расширить применение ИИ: как защитят личные данные жителей?

Округ Харрис, штат Техас, может шире использовать искусственный интеллект в работе местных властей. Это потенциально позволит ускорить обслуживание жителей, сократить бумажную работу и дать сотрудникам больше времени на сложные обращения.

Однако специалисты предупреждают: местным властям важно разумно расходовать деньги налогоплательщиков, защищать личную информацию и сохранять возможность обратиться к человеку, если что-то пойдёт не так.

Комиссары округа Харрис должны были обсудить обновлённую политику в области ИИ в четверг, 12 ноября, но этот вопрос сняли с повестки. Когда предложение рассмотрят снова, пока неизвестно.

В округе уже действует политика использования ИИ, утверждённая в ноябре 2024 года. Теперь власти рассматривают более комплексный свод правил, поскольку технология продолжает развиваться.

Дороти Цзян, доцент кафедры информационных систем и содиректор Института человекоориентированного ИИ при Школе бизнеса Бауэра Хьюстонского университета, считает, что ИИ может повысить эффективность работы властей.

«Думаю, ИИ повсюду, а значительная часть работы правительства — это бумажная и рутинная работа. ИИ определённо может помочь с такими задачами: проверять формы, снова и снова отвечать на одни и те же вопросы, проверять документы. Он способен взять на себя большую часть этой тяжёлой работы, чтобы у сотрудников округа было больше времени на дела, в которых действительно нужен человек», — сказала Цзян.

Это может означать более быстрые ответы, меньшее время ожидания и более доступную помощь на разных языках для жителей округа Харрис.

Но, предупреждает Цзян, у этих преимуществ есть и обратная сторона.

Что округ Харрис предлагает изменить?

Впервые округ опубликовал рекомендации по использованию генеративного ИИ в октябре 2023 года, а 12 ноября 2024 года утвердил общую политику ответственного использования технологии.

В ней были изложены требования для сотрудников, подрядчиков и других лиц, использующих ИИ от имени округа. Политика охватывала ответственное применение технологии, безопасность и конфиденциальность данных, человеческий контроль, а также закупку и эксплуатацию систем ИИ.

В январе 2026 года комиссары поручили Департаменту универсальных услуг округа разработать более комплексную политику с учётом новых требований и растущего использования ИИ в подразделениях местной власти.

Предлагаемое обновление заменит правила 2024 года и усилит общие для округа требования к кибербезопасности, защите данных, ответственному использованию ИИ и надзору за его применением.

Власти предложили установить май 2027 года в качестве целевого срока внедрения новых правил, чтобы у подразделений было время подготовить инструкции и обучить сотрудников. Предложение пока не утверждено.

Рашим Барнетт, генеральный директор консалтинговой компании Emagine Reality, которая помогает организациям улучшать работу с помощью ИИ и автоматизации, говорит, что технология развивается быстрее, чем многие организации успевают за ней следить.

«За последние два года ИИ значительно изменился. А за последние шесть месяцев новые достижения появляются буквально каждый день — ничего подобного в развитии технологий за нашу жизнь мы не видели», — сказал Барнетт.

По его словам, властям нужно найти баланс между внедрением полезных технологий и пониманием связанных с ними рисков.

Какие меры защиты нужны жителям?

Один из главных поводов для беспокойства — что происходит, когда сотрудник местной власти вводит личные данные жителя в программу с ИИ.

Цзян выделила три основных риска: нарушение конфиденциальности, предвзятость и недостоверная информация.

«Кто-то может ввести личные данные жителей в инструмент, который округ даже не контролирует и использование которого он не одобрял», — сказала Цзян.

Она также предупредила, что системы ИИ могут воспроизводить предубеждения, содержащиеся в данных, на которых их обучали, и выдавать неверные ответы, звучащие убедительно.

Чтобы снизить риски, Цзян рекомендует принять несколько мер.

«На мой взгляд, один из самых серьёзных рисков — когда занятый сотрудник, желая сэкономить время, просто вставляет чьи-то данные в бесплатный инструмент с ИИ. Правило должно быть простым: данные округа можно вводить только в одобренные округом инструменты. И каждый инструмент должен получать лишь ту информацию, которая необходима для его задачи, — не больше», — сказала она.

По её словам, власти округа также должны заключать договоры, запрещающие сторонним технологическим компаниям использовать данные жителей для обучения собственных моделей ИИ.

«Когда округ покупает инструмент с ИИ, в договоре должно быть указано, что данные принадлежат округу. Поставщик не может использовать их для обучения собственных продуктов и моделей ИИ, а после окончания договора данные должны быть удалены», — сказала Цзян.

Она также рекомендует проводить независимые проверки, чтобы убедиться, что эти меры действительно соблюдаются.

«Округ не должен сам проверять собственную работу», — сказала Цзян.

Барнетт согласен, что защита личных данных жителей должна быть приоритетом.

«Нужно также ограничить сбор информации и использовать только то, что необходимо для задачи. Если системе не нужен номер социального страхования или другие чувствительные данные, не вводите их», — сказал Барнетт.

По его словам, доступ к таким данным должен быть только у уполномоченных сотрудников. В договорах также следует чётко прописывать, куда передаётся информация, кто может её просматривать и разрешено ли использовать её для обучения систем ИИ.

Это рекомендации экспертов, а не обязательно требования, включённые в проект политики округа.

Сколько ИИ будет стоить налогоплательщикам?

Внедрение искусственного интеллекта может потребовать затрат на покупку программ, разработку систем, обслуживание технологий, защиту данных и обучение сотрудников.

В марте 2026 года комиссары округа Харрис одобрили дополнительное финансирование в размере 425 000 долларов на работу подрядчиков, поддерживающих соблюдение требований, управление и внедрение ИИ. Эта сумма не отражает всех расходов округа на искусственный интеллект.

Барнетт считает, что прежде чем решать, поможет ли технология сэкономить деньги налогоплательщиков, властям нужно оценить все расходы на систему.

«В конечном счёте власти тоже должны управлять своей деятельностью как бизнесом. Нужно убедиться, что мы принимаем правильные финансовые решения», — сказал Барнетт.

По его словам, ускорение выполнения задачи само по себе не означает, что организация экономит деньги. Властям также нужно понять, как сотрудники будут использовать освободившееся время и приносит ли технология измеримую пользу.

Барнетт предостерегает от покупки дорогих систем ИИ, если власти ещё не определили, какую проблему те должны решить.

«ИИ — не волшебная палочка и не волшебная палочка-выручалочка, как его представляют. Что должны делать ваши сотрудники? Какой процесс им нужно выполнять? И только после этого следует подбирать технологию — купить её или разработать, — которая поддержит созданный вами процесс», — сказал Барнетт.

По его словам, организации могут впустую потратить деньги, если сначала покупают технологию, а затем пытаются перестроить работу под программное обеспечение.

Что делать, если ИИ ошибётся?

Оба эксперта подчёркивают: искусственный интеллект должен помогать сотрудникам выполнять работу, а не подменять ответственность человека.

«Если подразделение округа использует инструмент с ИИ, оно отвечает за результат — так же, как отвечало бы, если бы решение принял сотрудник», — сказала Цзян.

По её мнению, жителям нужно сообщать, когда ИИ участвует в принятии затрагивающих их решений. Кроме того, у них должен быть простой способ оспорить неверную информацию.

«Это должно быть очень просто. Многие из нас, и я в том числе, застревали в цикле с чат-ботом: снова и снова писали “Хочу поговорить с человеком”, но так никуда и не продвигались», — сказала Цзян.

Она также предупредила, что сотрудники могут слишком доверять ответам ИИ, особенно когда системы уверенно формулируют свои рекомендации.

Барнетт считает, что власти должны обеспечить кому-то полномочия проверять такие рекомендации и при необходимости отменять их.

«ИИ может помочь при принятии решения, но за решения, имеющие серьёзные последствия, должен отвечать человек. Он должен иметь возможность объяснить решение или отклонить рекомендацию системы», — сказал Барнетт.

По его мнению, у жителей всегда должен быть понятный способ связаться с сотрудником округа, который поможет решить проблему.

«В конечном счёте ИИ должен стать ещё одним путём к органам власти, а не запертой дверью между жителями и теми, кто готов им помочь», — сказал Барнетт.

Что жители округа Харрис могут сделать сейчас?

Пока комиссары рассматривают обновление политики округа в области ИИ, эксперты советуют жителям следить за происходящим и задавать вопросы о том, как будут применять эту технологию.

Жители могут посещать заседания Суда комиссаров, участвовать в публичных обсуждениях и спрашивать руководителей округа, какие подразделения используют ИИ, как защищают личные данные и кто отвечает за ошибки.

Они также могут добиваться понятных способов связаться с сотрудником округа, сообщить об ошибке и попросить человека пересмотреть решение, принятое с участием ИИ.

Цзян говорит, что по мере внедрения технологии органам власти особенно важны прозрачность и подотчётность.

«Мой совет жителям — быть в курсе и задавать вопросы. А округу я советую действовать открыто, оставлять за людьми ведущую роль и шаг за шагом заслуживать доверие», — сказала Цзян.

По её словам, конечная цель — не просто сделать работу властей быстрее.

«ИИ должен помогать властям лучше работать для людей, а не просто быстрее».

Информацию о предстоящих заседаниях, повестках и возможностях выступить можно найти на сайте Суда комиссаров округа Харрис.

Пока власти не определили, когда вернут проект обновлённой политики на рассмотрение, в округе продолжает действовать прежняя политика использования ИИ.