1
*_| Переслано из: NIKOLAEV Online |_*
Разворачивается скандал с многочисленными фактами ошибок программы «Социальный мониторинг», призванной в Москве контролировать тех, кто находится на карантине. СМИ и соцсети сообщают, что вполне законопослушному народу приходят штрафы. Даже тем, кто не может выйти за пределы квартиры по причине инвалидности.
Сбои были и в системе выдачи цифровых пропусков. Несколько моих знакомых столкнулись с неожиданным «обнулением» их пропусков.
Когда мы вводим новые виды «цифры», различные сервисы, программы и приложения, то говорим о выгодах, удобствах, повышении эффективности системы. Но при этом категорически забываем об очень важном – никто не предусматривает возможность возникновения технических ошибок или сбоев.
Весь груз (финансовый, временной и психологический) доказательства собственной невиновности ложится на человека, а не на систему или орган власти.
На любом уровне власти (и здесь я не снимаю ответственность и с себя), при введении в обиход подобных систем или «цифровых» норм, нужно одновременно вводить нормы и меры, реагирующие на ошибки и сбои. Любая «цифра» - не более чем «железка». Любая железка может сломаться или дать сбой.
А что делать людям? Например, если система дала сбой? Если система перепутала меня с кем-то? Если система обвиняет меня в том, что я не делал? Если система допустила утечку моих данных? Если у меня нет технической возможности использовать систему? Чаще всего ответа нет.
Пока что у нас презумпция правоты цифровой системы, а не презумпции невиновности. Чем дальше в цифровизацию, тем больше будет таких вопросов.
И это мы еще искусственный интеллект не трогали…
#nikolaevonline