Цифровой мониторинг растет в государственной службе Южной Африки – регулирование должно догнать

Государственные департаменты по всей Южной Африке все чаще полагаются на цифровые инструменты для оценки государственных программ и мониторинга эффективности. Это часть более широких реформ государственного сектора. Их цели - улучшить подотчетность, реагировать на аудиторское давление и управлять крупномасштабными программами с ограниченным персоналом и бюджетами.

Вот пример. Национальные департаменты, отслеживающие жилищное строительство, социальные гранты или развертывание инфраструктуры, полагаются на цифровые системы оценки эффективности, а не на периодические бумажные отчеты. Страницы действий - способ отображения визуальных данных в одном месте - обеспечивают обновления предоставления услуг практически в реальном времени.

Другой пример - использование платформ, которые собирают мобильные данные. Они позволяют сотрудникам передовой линии и подрядчикам загружать информацию непосредственно с мест.

Оба примера подходят для использования искусственного интеллекта (ИИ) для обработки больших наборов данных и получения аналитических выводов, на анализ которых раньше уходили месяцы.

Этот переход часто представляется как шаг вперед в подотчетности и эффективности государственного сектора.

Я - исследователь государственной политики с особым интересом к мониторингу и оценке государственных программ. Мои недавние исследования показывают тревожную тенденцию: переход к технологиям происходит гораздо быстрее, чем разрабатываются этические и управленческие рамки, предназначенные для его регулирования.

Во всех изученных мной случаях цифровые инструменты уже были встроены в рутинные процессы мониторинга и оценки. Но не было четких стандартов, регулирующих их использование.

Это создает риски, связанные с наблюдением, исключением, неправильным использованием данных и плохим профессиональным суждением. Эти риски не абстрактны. Они определяют, как граждане взаимодействуют с государством, как обрабатываются их данные и чьи голоса в конечном итоге учитываются при принятии политических решений.

Когда технологии опережают политику

Оценка государственного сектора включает оценку государственных программ и политики. Она определяет:

• эффективно ли используются государственные ресурсы
• достигают ли программы намеченных результатов
• могут ли граждане привлекать государство к ответственности за эффективность.

Традиционно эти оценки основывались на личном взаимодействии между сообществами, оценщиками, правительством и другими. Они включали качественные методы, которые допускали нюансы, объяснения и укрепление доверия.

Цифровые инструменты изменили это.

В своем исследовании я проводил интервью с аналитиками из правительства, НПО, академических кругов, профессиональных ассоциаций и частных консалтинговых компаний. Я обнаружил последовательную озабоченность по всем направлениям. Цифровые системы часто внедряются без этического руководства, адаптированного к практике оценки.

Этическое руководство предоставило бы четкие, практические правила использования цифровых инструментов в оценках. Например, при использовании страниц действий или автоматизированной аналитики данных руководство должно требовать от оценщиков объяснять, как генерируются данные, кто имеет к ним доступ и как результаты могут повлиять на оцениваемые сообщества. Оно также должно предотвращать использование цифровых систем для мониторинга отдельных лиц без согласия или для ранжирования программ способами, игнорирующими контекст.

Закон Южной Африки о защите персональной информации обеспечивает общую правовую основу для защиты данных. Но он не рассматривает конкретные этические дилеммы, возникающие, когда оценка становится автоматизированной, облачной и опосредованной алгоритмами.

Результатом является то, что оценщики часто остаются без четких стандартов, ориентируясь в сложной этической среде. Это заставляет учреждения полагаться на прецеденты, неформальные привычки, прошлые практики и настройки программного обеспечения по умолчанию.

Расползание наблюдения и неправильное использование данных

Цифровые платформы позволяют собирать большие объемы данных. После загрузки данных в облачные системы или сторонние платформы контроль над их хранением, повторным использованием и обменом часто переходит от оценщиков к другим.

Несколько оценщиков описали ситуации, когда данные, которые они собрали от имени государственных департаментов, позже повторно использовались департаментами или другими государственными агентствами. Это делалось без явного осведомления участников. Процессы согласия в цифровой среде часто сводятся к одному клику.

Примеры другого использования включали другие формы анализа, отчетности или институционального мониторинга.

Одним из этических рисков, выявленных в ходе исследования, было использование этих данных для наблюдения. Это использование данных для мониторинга отдельных лиц, сообществ или работников передовой линии.

Цифровое исключение и невидимые голоса

Цифровые инструменты оценки часто представляются как расширение охвата и участия. Но на практике они могут исключать и так маргинализированные группы. Сообщества с ограниченным доступом к интернету, низкой цифровой грамотностью, языковыми барьерами или ненадежной инфраструктурой с меньшей вероятностью будут полноценно участвовать в цифровых оценках.

Автоматизированные инструменты имеют ограничения. Например, им может быть сложно обрабатывать многоязычные данные, местные акценты или культурно-специфические формы выражения. Это приводит к частичным или искаженным представлениям жизненного опыта. Аналитики в моем исследовании видели, как это происходит на практике.

Это исключение имеет серьезные последствия, особенно в стране с неравенством, такой как Южная Африка. Оценки, которые в значительной степени полагаются на цифровые инструменты, могут найти городское, подключенное население и сделать сельские или неформальные сообщества статистически невидимыми.

Это не просто техническое ограничение. Оно определяет, какие потребности признаются и чей опыт информирует политические решения. Если данные оценки недопредставляют наиболее уязвимых, государственные программы могут казаться более эффективными, чем они есть. Это скрывает структурные неудачи, а не решает их.

В моем исследовании некоторые оценки сообщали о положительных тенденциях эффективности, несмотря на то, что оценщики отмечали пробелы в сборе данных.

Алгоритмы не нейтральны

Аналитики также выразили обеспокоенность растущим авторитетом, предоставляемым алгоритмическим результатам. Страницы действий, автоматизированные отчеты и аналитика, управляемая ИИ, часто рассматриваются как истинная картина. Это происходит даже тогда, когда они противоречат знаниям на местах или контекстуальному пониманию.

Например, страницы действий могут показывать, что цель находится на правильном пути. Но на примере посещения объекта оценщики могут обнаружить недостатки или неудовлетворенность.

Несколько участников сообщили о давлении со стороны спонсоров или учреждений с целью полагаться на анализ цифр.

Тем не менее алгоритмы отражают предположения, наборы данных и приоритеты, заложенные в их дизайне. При некритическом применении они могут воспроизводить предвзятость, чрезмерно упрощать социальную динамику и игнорировать качественное понимание.

Если цифровые системы диктуют, как должны собираться, анализироваться и представляться данные, оценщики рискуют стать техниками, а не независимыми профессионалами, использующими суждение.

Почему Африке нужна контекстно-чувствительная этика

По всей Африке национальные стратегии и политика в отношении цифровых технологий часто в значительной степени заимствуются из международных рамок. Они разработаны в совершенно разных контекстах. Глобальные принципы этики ИИ и управления данными предоставляют полезные ориентиры. Но они не адекватно учитывают реалии неравенства, исторического недоверия и неравномерного цифрового доступа в большей части государственного сектора Африки.

Мое исследование утверждает, что этическое управление цифровой оценкой должно быть контекстно-чувствительным. Стандарты должны учитывать:

• как получается согласие
• кому принадлежат данные оценки
• как выбираются и проверяются алгоритмические инструменты
• как защищается независимость оценщика.

Этические рамки должны быть встроены на этапе проектирования цифровых систем.

Леседи Сенамеле Матлала, старший преподаватель и исследователь в области государственной политики, мониторинга и оценки, Университет Йоханнесбурга

Эта статья переиздана из The Conversation по лицензии Creative Commons. Прочитайте оригинальную статью.