Почему госслужбы получают всё больше жалоб из-за ИИ

По мере того, как ИИ облегчает заполнение форм и подачу жалоб, государственные службы во всем мире видят огромные скачки в приложениях и других запросах.

В Соединенном Королевстве количество жалоб на жилищного омбудсмена более чем удвоилось с момента введения ChatGPT, увеличившись с 2600 в 2022 году до чуть более 7000 в прошлом году. Бюро по защите прав потребителей США (CFPB) зафиксировало 5-кратный рост числа жалоб за тот же период. Аналогичные скачки наблюдались в бразильских судебных и немецких парламентских петициях.

Исследователь Крис Шмитц отслеживает этот рост как часть более широкой тенденции, которую он назвал «агентическим наводнением». В статье, которая будет представлена в следующем месяце на конференции AI Ethics and Society, он рассматривает 84 различных случая потенциального наводнения в 11 юрисдикциях, находя широкие доказательства того, что инструменты ИИ меняют способ взаимодействия людей с государственными службами.

Что делать с наплывом заявок от ИИ?

Самый сложный вопрос – что делать в ответ. В то время как некоторые из новых заявок явно противоречат друг другу, другие являются результатом того, что законные заявители используют ИИ для подачи исков, которые в противном случае были бы отклонены. В то время как некоторые могут рассматривать новые приложения как спам, генерируемый ИИ, Шмитц рассматривает это как редкую возможность переделать социальные услуги для эпохи ИИ.

Шмитц изучал услуги, начиная от социальных приложений и заканчивая официальными судебными апелляциями, но все они имеют онлайн-сервисы, к которым может получить доступ помощник ИИ. (Полный набор данных размещен здесь, для справки.) По методологическим причинам в статье Шмитца не говорится, что ИИ непосредственно вызывает всплеск новых заявителей. Но большинство из 84 случаев следуют той же базовой дуге, где представления были примерно плоскими до 2022 года, а затем росли с растущей скоростью, поскольку технология ИИ рассеивается. Важно отметить, что в большинстве случаев рост не замедляется, что говорит о том, что он, вероятно, будет продолжать расти в течение многих лет.

Для Шмитца легко понять, как растущие навыки и доступность ИИ будут стимулировать увеличение использования.

«Люди узнают, что это то, что можно сделать, и постепенно это становится проще сделать… прежде чем это могло бы быть вопросом большого перетаскивания контекста и очень точного подсказывания ChatGPT 3.5, теперь это может быть вопрос просто вставки или фотографирования письма с вашим приложением Claude и получения довольно хорошего ответа в одном кадре», — сказал он.

Скачок в объеме похож на то, что многие сервисы по борьбе с ошибками также испытали в прошлом году, поскольку компании обнаружили, что их почтовые ящики заполнены некачественными отчетами, генерируемыми LLM. Отчеты редко содержали существенные проблемы безопасности, но компании по-прежнему были обязаны проверять отчеты по мере их поступления, что привело к значительному истощению ресурсов. Легко представить, что государственные службы сталкиваются с аналогичной проблемой, поскольку они управляют в 5 раз большим количеством заявителей с тем же бюджетом.

Кто на самом деле подает новые заявки?

Но там, где программы вознаграждения за ошибки были наводнены бесполезными заявками, Шмитц говорит, что большинство новых заявок на государственные услуги поступают от реальных людей с законными претензиями.

«Подавляющее большинство случаев, которые мы находим, — это люди, которые имеют право претендовать на что-то, претендуя на эту вещь», — сказал он TechCrunch.

Почему люди раньше не подавали заявки?

Если эти люди раньше не заявляли о преимуществах, то, возможно, это было связано с тем, что работа по применению была слишком запретной — что-то известное в мире политики как административное бремя. Теперь, когда ИИ может снять это бремя, это может быть возможностью переделать многие из этих услуг более удобным для ИИ способом.

Это важная задача, которую мы в основном еще не начали решать, но Шмитц считает ее поводом для оптимизма.

«Большая часть того, чтобы сделать ИИ успешным, заключается в том, чтобы иметь возможность подробно рассказать, как выглядит хорошая версия вещей. И любой, кто когда-либо использовал ChatGPT для налоговой декларации, знает, что здесь есть хорошая версия, в которой вам помогают, — говорит Шмитц. — Это может быть моментом, чтобы сказать, что нам нужно переосмыслить почти все о том, как выглядит этот процесс.

Вопросы и ответы

Насколько сильно выросло число жалоб в США и Великобритании после появления ChatGPT?

В Соединенном Королевстве жалобы жилищному омбудсмену выросли с 2600 в 2022 году до более 7000 в прошлом году. Бюро по защите прав потребителей США (CFPB) за тот же период зафиксировало пятикратный рост числа жалоб.

Кто в основном подает новые заявки, о которых говорит Крис Шмитц?

По словам Шмитца, подавляющее большинство новых заявок на государственные услуги поступают от реальных людей с законными претензиями, которые имеют право на что-то и теперь используют ИИ для подачи.

Почему люди не подавали заявки раньше, до распространения ИИ?

Возможно, работа по подаче заявок была слишком запретной — это известно как административное бремя. Теперь ИИ может снять это бремя, что открывает возможность переделать услуги более удобным для ИИ способом.