1
Алгоритмы машинного обучения могут быть удивительно точными и эффективными для многих задач. Они особенно полезны для классификации и идентификации особенностей изображения. Однако они также очень уязвимы для атак с манипулированием данными, которые могут представлять серьёзную угрозу безопасности.
Атаки, включающие в себя очень тонкие манипуляции с данными изображений, могут быть запущены несколькими способами. Например, путём смешивания повреждённых данных с обучающим набором данных, используемым для обучения алгоритма, что приводит к тому, что он изучает то, чего не должен.
Обработанные данные также могут быть введены на этапе тестирования (после завершения обучения), в тех случаях, когда система AI продолжает обучать базовые алгоритмы во время использования.
vestnik-glonass.ru/~PeAUR