1
Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за умышленных действий или выхода технологий из-под контроля, но и вполне естественным образом. Об этом он рассказал в подкасте с главой Axel Springer
По его словам, недооценен тот сценарий, при котором люди постепенно начинают полностью полагаться на советы алгоритмов, теряя свое собственное Я.
«Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем», – отметил Альтман.
Он подчеркнул, что люди все сильнее зависят от искусственного интеллекта. По его мнению, ИИ станет еще умнее и начнет давать советы, которым люди будут следовать почти безоговорочно. Затем ИИ станет настолько продвинутым, что его рекомендации будут казаться непонятными, но при этом окажутся верными. В итоге у людей останется два выбора: следовать советам ИИ или проиграть в конкурентной борьбе.
В такой ситуации, считает Альтман, человек фактически перестает самостоятельно принимать решения. По его словам, это приводит к своеобразной «петле обратной связи»: чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее.
«Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель», – резюмировал Альтман.
От себя можем добавить — для порабощения одного биологического вида другим (тем более — надбиологическим) совершенно не нужна субъектность и воля. Паразитический гриб кордицепс не обладает ни самосознанием, ни волей, ни субъектностью. Что не мешает ему управлять поведением муравьев в своих эволюционных потребностях, в конце-концов доводя бедных насекомых до преждевременной смерти.
Тут есть над чем задуматься. Но нам, православным христианам, есть чем на все это ответить....
🇷🇺 Подпишись! МИГ в МАX ловит даже на парковке!