В настоящее время нет необходимости заучивать сведения, поскольку для этого существуют поисковые инструменты. Изучать дорожные пути по картам больше не требуется — есть навигационные системы. Более того, в некоторых ситуациях можно воздержаться от размышлений – ведь доступен искусственный интеллект. Возникновение зависимости от этих технологий привело к появлению такого явления как цифровая деменция.
Лишь недавно эксперты анализировали способы преодоления привязанности к мобильным телефонам, онлайн-играм и социальным платформам. Однако теперь возникла новая сложность – зависимость от искусственного разума.
Каждый пятый — на крючке?
Согласно результатам изучения Института Кинси, расположенного в Университете штата Индиана (США), приблизительно 19% жителей Америки экспериментировали с виртуальными отношениями с персонажами, созданными нейронными сетями. В некоторых случаях эта привязанность становится настолько сильной, что приводит к распаду настоящих семейных уз. Специалисты в области права семьи в Соединенных Штатах и Великобритании фиксируют значительное увеличение числа разводов, вызванных увлечением виртуальными романами одним из супругов.
Как и при любой форме зависимости, существует феномен отмены. Зафиксированы случаи серьезных тревожных расстройств, возникающих у людей при отсутствии доступа к диалоговым системам на базе ИИ, например, когда истекает срок подписки.
О том, что учащиеся школ и высших учебных заведений активно применяют искусственный интеллект для создания академических работ, не упоминает только самый незаинтересованный человек.
Приводит к зависимости
«Действительно, формируется привязанность к искусственному интеллекту, – согласился ресурс aif.ru семейный психолог, доктор психологических наук Илья Слободчиков., — она аналогична зависимости от любого устройства, увлечению компьютерными играми и подобным видам досуга. Все эти чаты с ИИ прочно вошли в нашу современную жизнь, как телефон или доступ к сети Интернет. Поскольку искусственный интеллект упрощает выполнение множества задач и оказывает значительную поддержку, закономерно, что мы начинаем автоматически делегировать ему определенные функции. Это свойственно человеческой природе: сначала происходит эксперимент, затем технология интегрируется в повседневность и становится привычной. В этот момент, если возникают сбои – искусственный интеллект начинает работать некорректно, не выполняет необходимые действия или вовсе перестает быть доступным – мы испытываем дискомфорт. Именно это порождает тревогу, приступы паники и невротические состояния. Процесс развивается по той же модели, что и в случае любой зависимости. Для помощи людям, столкнувшимся с подобной ситуацией, применяются специальные методики коррекции и психотерапевтические подходы, поскольку вся эта ситуация связана с пересмотром восприятия реальности и самооценки, а также изменением представлений о способах общения».
«Оно» не думает…
Понятно использование искусственного интеллекта для решения технических вопросов. Однако некоторые специалисты в области здравоохранения уже применяют ИИ при постановке диагнозов и назначении лечения. Многие пациенты рассказывают случаи, когда перед тем как дать рекомендации, врач обращается к нейросети.
«Несомненно, искусственный интеллект – это значительное технологическое достижение, однако его применение уместно только в вопросах, связанных с математическими расчетами и статистическим анализом, – пояснил aif.ru председатель Московского городского научного общества терапевтов, профессор, член комитета по этике в области искусственного интеллекта в медицине Альянса в сфере ИИ (в него входят Сбер, Яндекс и прочие) Павел Воробьев.Другими словами, это не самостоятельное мышление, а лишь его подобие. Речь идет о математической обработке данных, осуществляемой с высокой скоростью, что создает иллюзию интеллектуальной деятельности у наблюдателя. Всем нам известно, что нейронные сети формируются на основе текстовых материалов, видеозаписей, изображений и прочих данных. В сфере здравоохранения большая часть доступной информации сегодня представлена не научными публикациями, а материалами, созданными специалистами по продвижению товаров и услуг. Искусственный интеллект извлекает эти данные, заставляя пользователя полагать, что он получает актуальную информацию. Однако на деле ему предоставляется обработанный контент, созданный маркетологами. Это позволяет оперативно определять предварительный диагноз, хотя он может оказаться совершенно ошибочным.
Разработчики нейросетей применяют систему приоритетов при обучении, стремясь к тому, чтобы научные публикации имели больший вес по сравнению с рекламными материалами. Но отыскать достоверную информацию среди огромного потока данных – задача непростая, поскольку не секрет, что даже в научных исследованиях встречаются заказные работы, инициированные теми же маркетологами. Наиболее востребованным персоналом являются специалисты, занимающиеся первичной подготовкой нейронных моделей. К тому же, нередко среди медицинских работников отсутствует единая точка зрения по различным вопросам здравоохранения. Как тогда обучить искусственный интеллект? В отсутствие объективной истины ИИ будет выдавать распространенные точки зрения авторитетных источников.
«Это представляет серьезную угрозу, поскольку современные медицинские диагнозы фрагментируются на более специфические и нетипичные состояния, — отмечает специалист. — Если ранее мы определяли заболевание как лейкоз, то впоследствии его классифицировали на хроническую и острую формы. В настоящее время насчитывается около двух десятков различных типов острого лейкемии. Хронический миелолейкоз или онкология молочной железы – когда-то это были единые заболевания, а теперь представляют собой множество вариаций. От правильной идентификации зависит эффективность спасительного лечения. Фактически, речь идет о редких патологиях. Поскольку алгоритмы машинного обучения ориентированы на наиболее распространенные случаи, они склонны игнорировать нечастые проявления».
Врач приводит еще один пример – анализ результатов лабораторных исследований. Показатели, полученные в ходе таких анализов, зависят от используемого оборудования и реагентов, а не только от состояния пациента. В одной лаборатории результаты могут отличаться от тех, что получены в другой. Поэтому все лаборатории теперь указывают референсные значения.
«Специалист анализирует данные, обсуждает их и приходит к определенному заключению относительно диагноза. Однако машина лишена этой способности. Тем не менее, существует обширная область применения искусственного интеллекта в здравоохранении. Например, использование робототехники для инъекций – это значительный прогресс», — резюмировал Павел Воробьев.
… но отупляет?
Педагоги также выявили негативные последствия увлечения школьников нейросетями.
«За последние два года, когда у детей появился доступ к чат-ботам на базе искусственного интеллекта, мы с моими коллегами фиксируем заметное снижение качества письменных заданий», – сообщила aif.ru репетитор по русскому языку и литературе Оксана Ласковская. Несанкционированное копирование заданий всегда было распространено среди учащихся. Существует принципиальная разница между самостоятельной обработкой информации, даже если это предполагает компиляцию и перефразировку с последующим осмыслением материала, и мгновенной передачей мыслительных процессов машине без какой-либо личной вовлеченности. Все чаще в качестве домашних работ представляется контент, созданный искусственным интеллектом – я бы назвал его «неосмысленной продукцией». Наиболее способные ученики пытаются внести некоторые коррективы. Однако на экзамене ИИ отсутствует, и тогда возникают паника, стресс, слезы, истерики и неуспешная сдача предмета. В прошлом году одна из моих подопечных драматично провалила сессию – литературу не сдала в первый раз, русский язык показал крайне низкий уровень. Речь идет о талантливом ребенке, который блестяще справился с ОГЭ в девятом классе и участвовал во Всероссийской олимпиаде школьников. Но к концу десятого класса возникли трудности. Я долгое время не могла понять причину неудач у одной из лучших моих учениц – она передавала мне работы, созданные искусственным интеллектом. Я пыталась определить пробелы в знаниях и выяснить, почему дети не понимают элементарные вещи. Дело было не в этом: они просто загружали задание в ИИ, получали некорректный результат и переписывали его (искусственный интеллект быстро адаптируется к новым условиям, но пока что он не способен анализировать художественные произведения). Многие мои коллеги столкнулись с подобной ситуацией. Мы пытались выяснить причины пробелов в знаниях учащихся, а они продолжали списывать работы у ИИ. Об этом стало известно только через год. Вот как мы отстали.
На данный момент эксперты не располагают эффективными методами решения этой проблемы.
«Мы получили инструмент высоких технологий, который значительно снижает способность к самостоятельному мышлению и отучает от критического анализа информации. Проблема заключается не в устаревших педагогических подходах – все развивается слишком стремительно. Если взрослые, выросшие без искусственного интеллекта, успешно справлялись с трудностями, испытывали зависимости, то что говорить о детях? Дополнительную сложность создает и тот факт, что многие родители прямо или косвенно поддерживают это явление, оправдывая его заботой о перегрузке детей и излишних требованиях. Возможно, мы переживем этот период нестабильности, и ситуация нормализуется. Однако существует вероятность того, что он разрушит все вокруг. Я по-прежнему надеюсь на благоприятный исход», – заключает Оксана Ласковская.
Трудно устоять перед желанием избежать напряжения и дискомфорта при необходимости сгенерировать оригинальную идею для работы или решить сложную задачу, а также принять важное жизненное решение. Можно обратиться к чат-боту. Однако во-первых, идеи, созданные искусственным интеллектом, всегда более предсказуемы по сравнению с тем, что способен придумать человек. Во-вторых, чрезмерная зависимость от подобных инструментов приводит к деградации собственных когнитивных способностей. Для наглядности можно представить такую ситуацию: если вы посещаете тренажерный зал и вместо вас гантели поднимает робот, то в каком состоянии окажутся ваши мышцы? Мозг – это не мышечная ткань, но его тоже необходимо тренировать, а не передавать функции машинным алгоритмам.
