1
Есть анекдот про робота, обученного подавать стакан воды хозяину перед его (человека) смертью.
Который заканчивается примерно так: «Просыпаешься такой утром в хорошем настроении... а тут робот со стаканом воды».
О чем-то подобном мы на автомате подумали, прочитав про «обучение» искусственного интеллекта заблаговременному предсказанию болезней.
То есть, сама по себе штука представляется очень полезной, но и последствия в случае ее нештатного применения могут оказаться весьма неприятными.
Представьте, что кто-то «научит» ИИ специально дезинформировать выбранное в качестве мишени лицо относительно проблем со здоровьем, тем самым перегружая его психику, побуждая к заведомо ненужным мерам лечения, а заодно – подготавливая информационный фон для последующего трагического исхода.
Да, то же самое можно устроить и с живым доктором, работающим в интересах злоумышленника – но вскрыть «замысел» нейросети может оказаться куда сложнее, а тем более – выявить тех, кто использует ее при реализации преступного замысла.