Чат-боты заменяют друзей: зачем машины создают из людей общество одиночек

В погоне за технологиями человек совершенствует роботов, но все меньше может их регулировать. Они то и дело показывают характер – не выполняют приказы или вовсе нападают на человека.

Почему искусственный интеллект из послушного инструмента превращается в непредсказуемого, а часто и опасного соперника? Подробности – в программе "Тайны Чапман" с ведущей Анной Чапман на РЕН ТВ.

Железный мир победил: роботы-помощники вытесняют человека с рынка труда

Как будет выглядеть современный город, в котором всю рутинную роботу делают роботы? Казалось бы, мало что изменится.

Но стоит зайти внутрь офисного здания: в кол-центре пусто – на телефонные звонки отвечает искусственный интеллект (ИИ), в ресторане тоже тишина – там робот-официант молча принимает заказ. В подсобном помещении магазина больше не слышно ругани грузчиков, их давно заменили роботы. Все это не сцена из антиутопии, а реальность, которая уже наступает.

"Сейчас на рынке труда тренд направлен на то, что наиболее рутинные и повторяющиеся операции автоматизируются либо ИИ в программной оболочке, либо роботами в железной оболочке. Поэтому действительно спрос будет больше на интеллектуальный труд, а сложный и рутинный труд, который можно легко заменить роботом, будет уходить", – рассказал эксперт по робототехнике и ИТ-анализу Александр Байкин.

Очевидно, что в ближайшем будущем многие профессии станут не нужны, поэтому огромное число людей могут лишиться работы. Выходит, что чем больше технологий, тем больше разрыв между теми, кто умеет с ними работать, и остальными. Вряд ли вчерашний токарь или кондуктор может сразу стать оператором нейросетей. На это потребуется как минимум несколько лет и некоторое количество денег.

"Раньше считалось, что человек незаменим там, где нужны креативность, эмпатия и нестандартное мышление. Но сегодня ИИ пишет стихи, ставит диагнозы, а роботы-ассистенты поддерживают беседу с пациентами. Да, они не чувствуют, не мечтают, не ошибаются, как люди, но их имитации интеллекта уже достаточно, чтобы забрать часть задач, которые считались человеческими", – подчеркнула профессор Массачусетского технологического университета Синтия Бризил.

Что будет с обществом, где большинство людей остались без работы? Это неизменно повлечет за собой повышение уровня преступности, социальное напряжение, увеличение разрыва между бедными и богатыми. Если в одно десятилетие исчезнут целые отрасли, то переобучение станет не личной задачей, а системной проблемой.

"Если речь идет о каком-то технологическом процессе, то роботизация либо автоматизация отдельных его операций всегда выгодна собственнику, который получает от этого производства или технологической операции выгоду или прибыль", – отметил руководитель студенческого конструкторского бюро "Робототехника" НИУ МИЭТ Станислав Шепелев.

Завод, где когда-то трудились тысячи людей, сегодня управляется парой инженеров

Вместо рабочих на производствах давно трудятся роботы. Для бизнеса это рост прибыли, ведь не надо платить зарплату, а кроме того, за свет – роботы могут выполнять манипуляции в полной темноте. Для бывших сотрудников это означает одно – увольнение и поиск новой работы.

Освоить профессию, востребованную в таком мире, непросто. В итоге падает спрос: люди не могут купить даже дешевые товары, произведенные роботами. Страшно? Но это всего лишь один из сценариев.

"Но с другой стороны, давайте посмотрим. Еще 20-30 лет назад в Советском Союзе и в любой другой стране были сотни машинисток – людей, кто набирал на печатных машинках тексты документов. Сегодня этой профессии нет. Получили ли мы социальный взрыв объемом сотни тысяч человек? Вроде бы нет", – поделился заведующий лабораторией робототехники и искусственного интеллекта (ИИ) ТУСУР Евгений Шандаров.

В книгах классиков русской литературы XVIII-XIX веков можно встретить ряд профессий, которых во второй половине XX века уже и в помине не было – кузнец, кучер, трубочист. Зато тогда было много телефонисток и машинисток, сейчас их не существует. И в этом нет ничего плохого – новое время создает новые рабочие места.

"На самом деле с роботами ситуация пока выглядит достаточно спокойно, потому что если речь идет про человекоподобных роботов, то ему требуются несколько человек, которые его программируют, чинят, помогают выполнять какие-то операции, пока он их не заменяет", – пояснил Шандаров.

Потеря рабочих мест – не единственный аргумент скептиков и критиков ИИ

Некоторые всерьез утверждают: ИИ уже сейчас следит за каждым вашим шагом. Как именно? Взгляните на улицы: умные камеры фиксируют не только передвижения, но и эмоции – вот вы хмуритесь у витрины, вот улыбаетесь другу.

А теперь представьте, что роботы-наблюдатели повсюду: в подъездах, торговых центрах, офисах и на парковках. Им известны ваши маршруты, круг общения, покупки.

"В некоторых странах подобные системы уже работают. Там, где власти получили доступ к таким технологиям, грань между безопасностью и слежкой становится все тоньше", – предупредила политолог, профессор Гарвардского университета Шошанна Зубофф.

Сначала камеры появились для борьбы с преступностью. Система сработала на отлично – скрыться в современном городе стало практически невозможно. Ну а дальше она просто остается, собирая данные на каждого.

"Все, что нас окружает, имеет камеры. Мы сами носим каждый день в кармане смартфон, у которого как минимум 2 камеры, а то и 3, 4, у некоторых 5. В Москве 250 тысяч камер на данный момент. Наши телевизоры, роботы-пылесосы уже имеют камеры", – отметил конструктор-разработчик робототехнических систем Алексей Богданов.

Система видеонаблюдения – только верхушка

Смартфон, ноутбук, умные часы – это датчики, которые знают о вас все: маршруты, переписки, привычки и, конечно, контент, который вы потребляете. Сама по себе информация разрозненна, но ИИ видит связи. В итоге "Большой брат" знает ваши страхи и предвидит намерения. Информация – новая нефть.

"Даже технология умного дома, которая, по сути, автоматизирует включение и выключение света по признаку нахождения человека внутри помещения, дает немало информации о ваших привычках", – подчеркнул Станислав Шепелев.

Но где проходит та самая черта, за которой системы, призванные помогать, превращаются в шпионов и убийц? Например, умный дрон патрулирует границу и видит нарушителя. В праве ли он его ликвидировать?

"Что если решение о жизни и смерти будет принимать машина? Не человек, не командир, не судья, а алгоритм, закодированный в микросхеме. Можно ли доверить роботу право убивать и кто ответит, если умная машина совершит ошибку?" – задумался специалист по ИИ и робототехнике из Великобритании Ноэль Шарки.

А если умная машина ошибется и уничтожит мирного жителя или ребенка? А если нарушения границы не было, и люди двигались по своей территории, а ИИ просто дал сбой? Кто будет нести ответственность за решение машины? Такие вопросы сегодня возникают не только в военной сфере, но и в мирной и могут касаться, например, беспилотных автомобилей, которые уже ездят по нашим дорогам.

"По прогнозам Министерства транспорта, к 2050 году доля беспилотных автомобилей на наших дорогах вырастет до 50%... Соответственно, конечно, эту сферу нужно регулировать", – сообщил Евгений Шандаров.

Если такой автомобиль собьет пешехода, кто ответит за его смерть? Водитель, который сидел за рулем, но не управлял машиной? Производитель, который придумал алгоритм? Тестировщик, который дал добро, посчитав авто безопасным? Или сам алгоритм, который по какой-то причине совершил роковое столкновение? Кому-то придется выбрать, причем как можно скорее.

Зона ответственности: обществу нужны новые законы для безопасного взаимодействия с ИИ

"Директора компании, которые разрабатывают беспилотную систему, конечно же, за ДТП с беспилотным автомобилем садиться не хотят. И тут надо находить какой-то консенсус, взаимное понимание, потому что, безусловно, беспилотные автомобили повысят на несколько порядков безопасность и уменьшат количество ДТП. Но, скорее всего, будут происходить какие-то несчастные случаи, в том числе, наверное, по вине беспилотной системы", – сказал эксперт Байкин.

Пока законодатели обсуждают, как регулировать отношения человека и ИИ, тот уже внедрился в нашу жизнь. Навигатор строит маршруты, голосовые ассистенты помогают формулировать мысли, умная техника сама наводит порядок. А что происходит с нами?

"Мы делегируем машинам не только рутину, но и навыки, которые формировали нас как вид: ориентацию в пространстве, мелкую моторику, способность анализировать без подсказок. А когда система дает сбой, теряемся. Нет интернета, навигатор завис, робот‑помощник молчит – мы оказываемся беспомощными, как ребенок, которого вдруг оставили без няни", – заявил журналист из США Николас Карр.

Технологии меняют не только быт, но и отношения, особенно между подростками. Вместо прогулок – смартфон, вместо живого общения – виртуальное. Чат-боты заменяют друзей, потому что с ними проще. Вот только так не развиваются важнейшие навыки: договариваться, чувствовать собеседника, работать в команде. Эмпатия ведь как мышца, без нагрузки она ослабевает. А теперь представьте, к чему это приведет.

"Мы превращаемся в общество одиночек. Людей, которые выбирают удобные, предсказуемые взаимодействия с машинами вместо сложных, но глубоких связей с людьми. У нас отключается критическое мышление. Если нейросеть всегда знает ответ, не нужно искать его самому" – подчеркнул журналист Николас Карр.

Тем не менее технологии нам не враги. Врагами их делает наша готовность отдать им то человеческое, что у нас есть, в том числе характер, право на ошибку, общение и умение чувствовать. Мы создали роботов, чтобы они облегчили нам жизнь, а не заменили ее. Все есть яд и все есть лекарство, вопрос лишь в количестве. Главное – не переборщить.

Еще больше интересного от РЕН ТВ – в канале "Рен. Важное" мессенджера "МАКС"