🤯 Риски ИИ: этика, деградация и пророчество 1909 года

Риски искусственного интеллекта: этика, деградация и пророчество 1909 года

Ключевые тезисы:

ИИ обучается на данных от всего человечества — как от «хороших», так и от «плохих» людей.
Первые поколения ИИ могли быть «заражены» токсичными установками, так как разрабатывались в интересах «нехороших» людей.
Главный риск — деградация интеллекта (IQ) у молодёжи, которая перестаёт учиться, полагаясь на ИИ-подсказки.
Повесть Эдварда Форстера «Машина останавливается» (1909 г.) — удивительно точное предсказание технотронного мира, ведущего к вырождению человечества.

Искусственный интеллект — система, возникающая на основе обучения.

Учителем ИИ выступает всё человечество со всей его информацией — как позитивной, так и негативной.
Существует опасность, что ранние поколения ИИ, разрабатывавшиеся в 80-90-е годы, были обучены в интересах «нехороших людей» и несут в себе «память», заражённую токсичным материалом.

Многие преподаватели и профессора бьют тревогу:

Молодёжь «на глазах деградирует», переставая учиться и мыслить самостоятельно.
Активное использование ИИ-подсказок для выполнения задач ведёт к снижению уровня интеллекта (IQ).
Это оценивается как страшная проблема, способная в перспективе уничтожить человечество.

Повесть описывает технотронный мир, актуальный и сегодня:

Мир под землёй: Люди живут в полностью искусственной среде, не зная солнца, звёзд, природы.
Образ жизни: Всё общение происходит онлайн через мониторы и аудиосвязь. Оффлайн-встречи вызывают у обитателей стресс.
Потребительское существование: Люди лишь потребляют контент (лекции, музыку), нажимая кнопки. Их интеллект резко падает.
Кульминация: Когда машина, обеспечивающая их жизнь, начинает давать сбои, люди оказываются неспособны понять её чертежи и спасти положение.
Символизм: «Дикари» на поверхности — это настоящие люди (Homo sapiens), в то время как подземные обитатели представляют деградировавшее технозависимое человечество.

Выводы:

Этический риск: ИИ наследует все противоречия и пороки человечества, а его раннее обучение могло быть скомпрометировано.
Интеллектуальный риск: Пассивное использование ИИ ведёт к снижению когнитивных способностей и самостоятельного мышления, особенно у молодёжи.
Историческое предупреждение: Литературное произведение столетней давности точно предсказало опасность полного погружения в искусственную, технологически опосредованную реальность, которая ведёт к физической и умственной деградации.