Введение (Introduction). Искусственный интеллект давно перестал быть только мечтами ученых-теоретиков и писателей-фантастов. Сегодня он повсеместно внедряется во все сферы общественной жизни, помогая человеку решать его задачи. Тем не менее, социальные последствия этого внедрения серьезно различаются в зависимости от сферы. Так, с одной стороны, когда речь идет о роботах-пылесосах или рекомендационных системах (например, по подбору отелей), уровень рисков и потенциальных негативных эффектов является низким. С другой стороны – когда технологии затрагивают вопросы жизни человека и общества, здоровья и безопасности важно детально и последовательно представлять то, как они, на каких уровнях это происходит, а также какие возможности и риски это несет. Особое место в этом ряду занимает управленческая деятельность, которая, функционируя на разных уровнях, позволяет обществу и социальным группам решать тактические и стратегические задачи. Цель статьи – выявить основные характеристики внедрения технологий искусственного интеллекта в современную управленческую деятельность, включая концептуализацию самого понятия, уровни внедрения технологий, а также группы возможностей и рисков. Статья базируется на общенаучных и специальных социологических методах, включая сравнительный и генетический методы, метод типологизации и др. В основу статьи положен анализ актуальной зарубежной и отечественной научной литературы, а также данных эмпирических исследований и конкретных кейсов внедрения технологий искусственного интеллекта в деятельность компаний (как российских, так и зарубежных), среди которых Сбер, TikTok, Фольсваген и др. Новизна проведенного исследования заключается в подробном анализе самого понятия «искусственный интеллект», включая историю вопроса и современные дискуссии, выделении уровней внедрения этих технологий в управленческую деятельность, а также обозначении групп реальных и потенциальных положительных и негативных эффектов их использования. Исследование задает прежде всего актуальную теоретическую рамку, которая может быть использована для анализа внедрения технологий искусственного интеллекта в управленческую деятельности даже в условиях того, что эта сфера является динамично развивающейся.

Методология и методы (Methodology and methods). Технологии искусственного интеллекта являются предметом рассмотрения большого количества научных дисциплин и направлений. Не только в его анализе, но и при его создании задействованы не только программисты и математики, но и лингвисты, психологи, химики, биологи и др. Несмотря на то, что существует некоторое конвенциональное представление о том, что включают технологии ИИ, междисциплинарность данного поля и его комплексность заставляют разработчиков, специалистов из области социальных и технических наук давать принципиально разные определения данного термина, расставляя собственные акценты.

В настоящее время в науке и культуре встречаются настолько различающиеся определения искусственного интеллекта, что сложно даже предположить, что речь идет об одном исследовательском поле. Более того, как полагает российский ученый Ю. Ю. Петрунин, «термин “искусственный интеллект” обозначает некий миф, широко проникший в современное научное и обыденное сознание. Миф означает в данном случае не ложность некоего представления, а лишь то, что это представление не может быть рационально обосновано и эмпирически проверено» (Петрунин, 1994: 31). Термин «искусственный интеллект» имеет несколько значений. Он рассматривается как наука и техника, совокупность технологий, процесс, потенциальный субъект общественных отношений, а также иногда как новый вид, способный по своему развитию догнать и обойти человека.

Традиционно считается, что термин «искусственный интеллект» был введен в 1956 на Дартмутской конференции Джоном Маккарти. Человек, которого по праву считают «отцом» ИИ, считал, что его следует рассматривать как «науку и технику создания интеллектуальных машин, особенно интеллектуальных компьютерных программ» (McCarthy, 2007). Схожую трактовку мы встречаем в работах советских исследователей М. А. Айзермана, Э. М. Бравермана и Л. И. Розоноэра (Айзерман, Браверман, Розоноэр, 1964), для которых, как отмечает академик Н. А. Кузнецов, «искусственный интеллект сначала понимался как некоторое распознавание объекта по набору признаков».

По мере того, как первые задачи для ИИ, например, по распознаванию образов, стали выполнимыми, появилось различение «сильного» и «слабого» искусственного интеллекта. «Слабый» ИИ представляет собой сложные алгоритмические системы, нацеленные на решение конкретных задач, схожих или аналогичных человеческим операциям. Именно этот тип искусственного интеллекта сегодня повсеместно встречается во всех сферах общественной жизни. В этом отношении деятельность искусственного интеллекта как интеллектуальной системы имеет две ключевые цели, которые, по мнению российского ученого В. К. Финна, следует различать: «Первая цель – имитировать человека. Вторая цель – усилить способности человеческих рассуждений при решении задач» (Кузнецов, Тарасов, Аверкин, Вагин, 1998: 15). С этими целями «слабые» формы искусственного интеллекта сегодня успешно справляются.

«Сильный» искусственный интеллект представляет собой интеллектуальную систему, которая не только сравнима с человеческим интеллектом, но и способна решать задачи, которые превосходят возможности человеческого интеллекта. Другой термин, который используется для обозначения «сильного» искусственного интеллекта – «сверхразум». Именно этот образ широко тиражируется при помощи средств массовой информации и коммуникации, особенно фантастического кинематографа. Кроме того, именно этот образ чаще всего превозносится или демонизируется в социальных науках в зависимости от позиции исследователя. В настоящее время «сильного» искусственного интеллекта не существует, более того, по ряду причин возникают сомнения относительно того, что он в принципе может появиться, а если и будет создан, то велика вероятность, что сверхразум не захочет выдавать себя, а потому будет сознательно «проваливать» проверки вроде теста Тьюринга. В любом случае – сегодня «сильный» искусственный интеллект пока еще тема для фантастического романа.

В современной науке принято разделять искусственный интеллект на три вида. Во-первых, узкий или частный искусственный интеллект (“artificial narrow intelligence” – ANI). Узкий искусственный интеллект совпадает по содержанию со слабым ИИ и представляет собой сложные алгоритмы, которые сегодня встречаются в повседневной жизни и на производстве. Этот вид искусственного интеллекта является помощником человека, его инструментом для решения конкретных задач и не претендует на то, чтобы соотноситься по своему уровню с человеком.

Во-вторых, общий искусственный интеллект (“artificial general intelligence” – AGI), представляющий собой интеллектуальные системы более высокого порядка, способные не только выполняет конкретные небольшие операции, но и обучаться в процессе выполнения своей деятельности. Здесь широко используются технологии машинного обучения и компьютерное зрение.

В-третьих, искусственный сверхразум (“artificial super-intelligence” – ASI). В настоящее время лишь гипотетический образ искусственного интеллекта, превосходящего интеллект человека по всем параметрам.

Одним из передовых ученых, занимающихся сегодня фундаментальными вопросами разработки искусственного интеллекта, является Карл Фристон. По его мнению, ключевой ошибкой исследователей и разработчиков стали попытки все большего усложнения автономных интеллектуальных систем, то есть, например, путем наложения друг на друга большого числа искусственных нейронных сетей, как это было в первых проектах. Вместо этого необходимо создание экосистемы, которая будет сочетанием искусственного и естественного интеллекта. Как пишет К. Фристон, «узлами такой распределенной взаимосвязанной экосистемы могут быть пользователи-люди, а также созданные людьми артефакты, воплощающие или реализующие формы интеллекта» (Friston, Ramstead, Kiefer, Tschantz, et al., 2022: 3).

Новый подход к построению искусственного интеллекта К. Фристон заимствует у природы. Подобно природе, которая включает различные объекты в структуру экосистемы, искусственный интеллект должен масштабироваться и расширяться «путем агрегирования отдельных интеллектов и их локально контекстуализированных баз знаний внутри и между экосистемами в «вложенные интеллекты», а не просто путем добавления дополнительных данных, параметров или слоев в систему» (Friston, Ramstead, Kiefer, Tschantz, et al., 2022).

Важным шагом будет пересмотр понятия «интеллект». Вместо однозначной ориентации на человеческий мозг в качестве аналога построения искусственных систем следует посмотреть на природу, где интеллект находит разные формы проявления, которые при этом способны взаимодействовать. К. Фристон пишет: «Однако интеллект вездесущ в природных системах – и в целом выглядит совсем по-другому. Физически сложные выразительные системы, такие как люди, обладают уникальными способностями, такими как явная символическая коммуникация или математические рассуждения. Но эти парадигматические проявления интеллекта существуют наряду со многими более простыми формами интеллекта, встречающимися в животном мире, а также менее явными формами интеллекта, которые пронизывают природу, и возникают из них» (Friston, Ramstead, Kiefer, Tschantz, et al., 2022: 4). В результате в качестве рабочего определения интеллекта К. Фристон предлагает следующее: «способность систем генерировать доказательства собственного существования. Это включает в себя познание (то есть решение проблем посредством действия и восприятия) и любопытство, а также способность к творчеству, которая лежит в основе текущего интереса к генеративному ИИ» (Friston, Ramstead, Kiefer, Tschantz, et al., 2022).

Искусственный интеллект прошел значительный путь в своем развитии не только в качестве конкретной технологии, но и как философская концепция, наука и своего рода миф. В среде современных разработчиков искусственный интеллект трактуют уже не как науку, как было у отцов-основателей изучения ИИ, но как систему, машину или совокупность технологий. Так, например, компания Oracle дает следующее определение: «искусственный интеллект (ИИ) – это система или машина, которая способна имитировать человеческое поведение для выполнения определенных задач и может постепенно обучаться, используя полученную информацию». По мнению российской компании Яндекс, искусственный интеллект – это «комплексная технология, включающая моделирование мыслительных процессов человека, обработку и перевод текстов на разные языки, работу с базами знаний, машинное обучение и робототехнику».

Российский социолог А. В. Резаев, обобщая современные черты технологий искусственного интеллекта, выделяет три их основные характеристики. Во-первых, «ИИ – не вещь, а процесс, воплощенный в техническом устройстве или онлайн-алгоритме» (Резаев, Трегубова, 2021: 120). Это значит, что среда разработки далека от антропоморфного образа искусственного интеллекта, а рассматривает его скорее в качестве инструмента, сопровождающего деятельность. Во-вторых, «ИИ относительно автономен от человека и способен самостоятельно принимать инструментальные решения» (Резаев, Трегубова, 2021: 120). Несмотря на то, что искусственный интеллект программируется человеком, в силу своей возможности к обучению, ИИ способен действовать отлично от того, как предполагает человек. В-третьих, «ИИ получает активную роль в социальных взаимодействиях в качестве посредника и участника» (Резаев, Трегубова, 2021: 120). В этой характеристике фиксируется переход от рассмотрения технической составляющей искусственного интеллекта и осуществляется переход к рассмотрению его в качестве, как минимум, социального феномена, а также социального агента.

Важный и, возможно, один из ключевых вопросов, которые возникают в контексте изучения искусственного интеллекта в социальных науках, заключается в том, являются ли в полной мере эти технологии фактором трансформации современного общества, включая систему управления. Современные исследователи Р. Бойд и
Р. Холтон подчеркивают две основные аналитические позиции по вопросу о том, является ли искусственный интеллект ключевым фактором трансформации (Boyd, Holton, 2017: 4). Во-первых, «робототехника и ИИ – это просто последние технологические изменения, которые являются значительными, но не преобразующими. Они могут создать серьезную технологическую безработицу, но они не представляют собой нового крупного водораздела в экономической организации и не представляют собой нового нормативного вызова социальной жизни» (Boyd, Holton, 2017: 4). Во-вторых, искусственный интеллект и связанная с ним робототехника рассматриваются как фактор беспрецедентных трансформационных изменений. Рассмотрим эти подходы подробнее.

Среди тех, кто считает, что искусственный интеллект и информационные технологии так и не стали фактором реальных социальных трансформаций, довольно часто встречаются экономисты. Так, по мнению Р. Гордона и Т. Коуэна, повышение производительности, которое могло стать способом противостояния таким социально-экономическим проблемам, как «старение населения, снижение уровня образования, растущее неравенство и высокий уровень потребительского и государственного долга» (Boyd, Holton, 2017: 4), так и не произошло. В отличие от таких технологий, как, например, паровой двигатель и электричество, искусственный интеллект не оказывает радикального влияния на социально-экономические отношения. В некотором смысле идеи этих экономистов продолжают подход Э. Хансена, писавшего о стагнации западной экономики, который подкрепляется, с одной стороны, идеей о том, что история современного общества демонстрирует постепенное уменьшение отдачи от применения любых инноваций, а, с другой стороны – функционирование закона
Г. Мура, который еще в 1965 году заметил и предсказал дальнейшее увеличение вычислительной мощности каждые два года (Boyd, Holton, 2017: 4). Тем не менее, еще в 2007 год создатель этого закона
Г. Мур подчеркнул, что есть фундаментальные научные проблемы, которые препятствуют дальнейшему действию этого закона (Иванов, 2019).

Среди тех, кто считает, что искусственный интеллект становится фактором радикальных социальных трансформаций, можно выделить две группы ученых. Во-первых, оптимисты (среди них можно выделить Э. Макафи и Э. Бринолфссона (Макафи, Бриньолфсон, 2018) и др.). Во-вторых, пессимисты (например, М. Форд (Ford, 2015), У. Хьюз (Huws, 2014) и др.). Представители этих групп имеют кардинально разные позиции относительно того, как именно искусственный интеллект и другие информационные технологии изменят общество: станут ли они фактором экономического роста и повышения благосостояния, социальной сплоченности и роста социальной справедливости, либо будут способствовать росту социального неравенства и дискриминации, формированию общества надзора и снижению безопасности. Тем не менее, все они уверены, что радикальные технологические изменения вполне реальны в своих проблемах и последствиях и обладают новизной (Boyd, Holton,
2017: 4).

Вне зависимости от наличия или отсутствия единого мнения относительно определения термина «искусственный интеллект» сегодня эта технология широко применяется в разных сферах общественной жизни, в том числе и в управлении. Таким образом, технологии искусственного интеллекта сегодня представляют собой многоаспектное социальное явление, которое все более интенсивно внедряется в процесс управления. В этом отношении важно рассмотреть возможности и социальные риски, которые следуют за их использованием.

Научные результаты и дискуссия (Research Results and Discussion). Широкое внедрение технологий искусственного интеллекта в управленческую деятельность началось в полной мере лишь в начале XXI века. Отчет международной консалтинговой компании McKinsey & Company о состоянии ИИ за 2024 год зафиксировал значительный интерес организаций к технологиям искусственного интеллекта. Онлайн-опрос проводился компанией в 2024 году (с 22 февраля по 5 марта). Его участниками стали 1363 респондента, представляющие, по данным компании, весь спектр регионов, отраслей, размеров компаний, функциональных специальностей и сроков пребывания в должности. Из этих респондентов 65% заявили, что их организации внедрили ИИ по крайней мере в одной функции (The state of AI in early 2024…, 2024).

Перерыв в почти 50 лет между первыми разработками в области ИИ и их широким внедрением в управленческую деятельность связан с рядом факторов, рассмотрим их подробнее. Во-первых, это доступность и стоимость технологий искусственного интеллекта. Несмотря на то, что попытки их создания приходятся на середину ХХ века, за прошедшие годы эти технологии пережили две «зимы», то есть дважды исследовательский и публичный интерес к этим разработкам существенно снижался. Обусловлено это было недостаточностью материальной базы, сопротивлением экспертов (поскольку шла речь о построении систем, которые могли бы этих экспертов заменить), а также стоимостью (Душкин, 2019). И сегодня, по данным компании К2Тех, 51% российских компаний не готовы к внедрению технологий ИИ. Большая часть проблем связана с необходимостью иметь производственные мощности, которые будут способны поддерживать работу подобных сложных систем. В том случае, когда речь идет об облачных хранилищах, компании чаще всего сталкиваются с высокой стоимостью.

Во-вторых, наличие специалистов, которые могли бы работать с подобными системами и поддерживать их функционирование. Взаимодействие с интеллектуальными системами требует знаний в области математики, программирования (знания языков программирования), а также понимание того, как протекают процессы в конкретной организации. Даже сегодня в крупных компаниях эти функции выполняют сразу несколько человек, что существенно увеличивает размер фонда оплаты труда.

В-третьих, человеческий труд по-прежнему часто обходится дешевле, чем дорогостоящие технологии. В ряде стран это связано с высоким уровнем безработицы, а также с возможностью делегировать отдельные задачи через интернет тем людям, которые нуждаются в работе и готовы выполнять ее за небольшие деньги, не имея при этом социальных гарантий и выплат (Jones, 2021). Гибкость труда в цифровую эпоху с точки зрения доступа к занятости, подвижных временных рамок и проч. фактически оборачивается неопределенностью и неустойчивостью для многих людей (Мартыненко, 2022: 132). Если говорить о деятельности российских компания, то, по данным исследования Tadviser, 41% организаций, отказавшихся от использования ИИ, сделали это по причине нерентабельности внедрениях этих технологий в конкретные бизнес-процессы.

Тем не менее, в текущем столетии часть из этих проблем успешно была преодолена, а потому технологии начинают активно внедряться на разных уровнях системы управления, как в коммерческих компаниях, так и на уровне государства. Более того, даже те организации, которые сегодня не внедрили технологии ИИ, осознают, что использование подобных систем в будущем станет важным конкурентным преимуществом, потому важно обозначить возможности внедрения этих технологий.

В зависимости от типа субъектов, которых затрагивает внедрение технологий ИИ, можно выделить несколько направлений их использования в современной управленческой деятельности. Во-первых, управление и работа с персоналом организации. В этом отношении технологии ИИ решают широкий спектр задач от обучения и развития персонала, его мотивации, подбора, а также анализа взаимодействия в коллективе (Блинникова, Йинг, 2020). Во-вторых, взаимодействие и организация работы с клиентами. ИИ берет на себя часть деятельности, связанной с решением простых запросов, например, на уровне чат-ботов и голосовых помощников. Кроме того, технологии ИИ могут стать основой для анализа бренда и восприятия его клиентами, а также создать персонализированные цифровые продукты и услуги.

Основные возможности использования технологий искусственного интеллекта в управленческой деятельности связаны, прежде всего, с теми функциями, которые эти интеллектуальные системы способны на себя брать. Рассмотрим их подробнее.

Во-первых, важнейшей функцией является поддержка в принятии управленческих решений и реализация этих решений. Выделим ключевые уровни его использования в управленческой деятельность в зависимости от сложности доверяемых ИИ задач и степени участия человека в этом процессе. Важно подчеркнуть, что технологии искусственного интеллекта наиболее часто применяются там, где компании вынуждены функционировать в условиях дефицита информации и неопределенности.

Первый уровень внедрения ИИ связан выполнением конкретных задач. Здесь речь идет об использовании слабого искусственного интеллекта, способного решать за человека конкретную (и часто рутинную) задачу. Эти задачи могут быть связаны с вводом информации, простой обработкой данных и подобное. Этот уровень широко используется российскими компаниями в последние годы.

Второй уровень внедрения технологий ИИ – создание систем поддержки управленческих решений. Этот уровень базируется на общем искусственном интеллекте и используется для сложной аналитики, на базе которой руководитель может принимать более взвешенные решения. Речь идет о создании интеллектуальных систем оценки рисков, а также различного рода инструментов для анализа больших объемов информации компании. Решение в данном случае принимает человек, искусственный интеллект сопровождает это решение информацией.

Третий уровень внедрения технологий ИИ в управленческую деятельность связан с системами, способными самостоятельно принимать конкретные решения. В данном случае ИИ принимает решения, основываясь на определенном наборе правил и процедур, заменяя человека. При необходимости человек может вмешиваться в осуществление операций и осуществлять контроль.

Четвертый уровень внедрения технологий ИИ в управленческую деятельность связан с возможностью подобных систем и устройств на них базирующихся управлять сложными структурами без участия человека. Все больше распространяются такие технологии, например, в медицине, когда операции проводят хирургические роботы. Если говорить об управлении, то эффективными себя показали технологии ИИ в управлении энергетическими системами. Впоследствии речь может идти о пятом уровне внедрения технологий ИИ, когда они станут способны решать задачи более высокого порядка, например, связанные с созданием новых идей, а также прогнозированием деятельности. Подчеркнем, что эти уровни не всегда характеризуют определенную последовательность внедрения технологии ИИ в организациях. Фактически компании могут использовать продукты любого уровня в зависимости от своих запросов и потребностей. Тем не менее, чаще всего речь идет именно о таком порядке, поскольку он позволяет последовательно создать базу для внедрения подобных сложных технологических решений в конкретные бизнес-процессы.

Помимо участия непосредственно в управленческой деятельности ИИ помогает решать ряд других задач. Во-вторых, ИИ участвует в управлении ресурсами. Любая организация функционирует в условиях дефицита ресурсов и стремится к максимизации прибыли, технологии ИИ способны оптимизировать и экономить различные виды ресурсов: человеческие (путем выполнения рутинных задач), временные (сокращение времени на конкретные операции), финансовые (снижение издержек за счет снижения числа сотрудников или благодаря эффективному финансовому анализу) и др.

В-третьих, технологии ИИ способны обеспечить повышение эффективности в организации. Наиболее часто технология искусственного интеллекта используется в организациях для повышения ее эффективности. Так, искусственный интеллект может быть востребован в автоматизации бизнес-процессов, в их оптимизации, например, в контексте улучшения взаимодействия между сотрудниками. Искусственный интеллект также помогает отслеживать и анализировать результаты деятельности для того, чтобы вовремя их корректировать.

В-четвертых, технологии ИИ участвуют в выявлении рисков и управлении ими. В настоящее время технологии ИИ способны использоваться для выявления потенциальных угроз и рисков, в том числе экономического характера. Искусственный интеллект помогает разрабатывать стратегии минимизации негативных эффектов различных событий и предотвращать потенциальные проблемы. Важно подчеркнуть, что в этом, как и во многих других случаях, достоверность результата серьезно зависит не только от модели, которую использует искусственный интеллект, но и от качества предоставляемых этим моделям данных.

В-пятых, технологии ИИ используются в процессе персонализации взаимодействия с персоналом и клиентами. ИИ способен анализировать предпочтения отдельных клиентов для создания персонализированных предложений и осуществления коммуникации (например, через чат-боты и голосовых помощников). Помимо коммуникации с клиентами и создания для них индивидуализированного опыта, технологии искусственного интеллекта могут быть востребованы внутри организации: при взаимодействии с сотрудниками организации для, например, создания персонализированной траектории развития или карьерного роста конкретного сотрудника, улучшение его взаимоотношений в коллективе или решение конкретных проблем.

Если говорить об эффективных кейсах применения технологий искусственного интеллекта в современных российских компаниях, то важно подчеркнуть специфику деятельности этих организаций. Так наиболее часто встречаются компании, которые относятся к банковской сфере или сфере предоставления других финансовых услуг. Интерес вызывает, например, разработанная Сбером модель предвосхищения желаний клиентов, где искусственный интеллект был использован для создания предиктивной модели. Банк «Открытие» разработал на базе ИИ советника для малого и среднего бизнеса. Тем не менее, не только организации из области финансов работают в области внедрения технологий искусственного интеллекта. Среди значимых проектов можно отметить разработки агропредприятия «Победа», которые внедрили на свои поля робота-помощника, автономно управляющего комбайном. Помимо коммерческих компаний и крупных государственных корпораций, таких, например, как Росатом, активно внедряют технологии искусственного интеллекта, например, в МЧС России и в департаментах здравоохранения различных округов.

Таким образом, сегодня технологии искусственного интеллекта активно внедряются в управленческую деятельность, поскольку представляют компаниям большое количество новых возможностей и конкурентных преимуществ. Эти возможности связаны прежде всего с теми функциями, которые реализуют искусственный интеллект. Важнейшими из них являются поддержка в принятии управленческих решений на разных уровнях, включая и автономное существование агентов ИИ в бизнес-процессах, участие в управлении ресурсами, анализ и выявление рисков и персонализация взаимодействия с клиентами и персоналом. В настоящее время новейшие технологии внедряются в компаниях, относящихся к различным отраслям экономики и демонстрируют высокую эффективность, несмотря на существование ряда ограничений, которые будут рассмотрены далее.

Вызовы и ограничения внедрения искусственного интеллекта в управленческую деятельность. Технологии искусственного интеллекта уже сегодня дают серьезные конкурентные преимущества тем компаниям, которые эффективно их внедряют в свою деятельность, включая системы управления. Тем не менее, как и у каждой технологии, у искусственного интеллекта и сложных алгоритмических систем есть свои негативные эффекты и последствия. Эти ограничения могут серьезно сказаться на деятельности организаций, рассмотрим основные из них.

Сложности использования технологий ИИ в управленческой деятельности связаны, прежде всего, с технологическими проблемами, часть которых обусловлена техническими особенностями. Технологии искусственного интеллекта базируются на сложных алгоритмах, которые хотя и воспринимаются в качестве рационально действующих элементов интеллектуальной системы, но чаще всего не являются такими полностью. «В итоге эффекты алгоритмов не всегда однозначны и предсказуемы. Как полагает Т. Гиллеспи, это происходит по нескольким причинам. Во-первых, алгоритмы включены в более широкую сеть отношений, которые так или иначе опосредуют и трансформируют их работу (например, в результате плохого качества исходных данных). Во-вторых, работа алгоритмов может иметь побочные эффекты и непредвиденные последствия, а отсутствие контроля или наблюдения за их работой чревато неожиданными и не всегда предсказуемыми действиями с их стороны. В-третьих, алгоритмы могут быть «предвзятыми» или допускать ошибки из-за неправильного кодирования или погрешностей при их программировании. Наконец, они могут изменяться в результате адаптации их функционирования под запросы пользователей. Поэтому алгоритмы – результат работы и программистов, и пользователей» (Мартыненко, Добринская, 2021: 177).

Технологические проблемы связаны не только с этим. Несмотря на то, что проблемы ХХ века с производственной мощностью были во многом преодолены, по-прежнему технологии требуют высоких затрат на их внедрение и поддержку. Сюда относятся не только те ресурсы, что необходимо затратить на сами технологии, но и оплата труда высококвалифицированных специалистов в разных областях, которые будут эту систему поддерживать. Кроме того, важно сказать о том, что эффективность технологий искусственного интеллекта, особенно в контексте обработки информации, серьезно зависит от подготовки данных к анализу. Более того, не всегда возможно предсказать эффективность внедрения подобных систем, а, следовательно, менее просчитываемыми становятся и сроки окупаемости проектов с использованием ИИ.

Наряду с указанными к техническим сложностям и барьерам внедрения технологий ИИ можно также отнести вопросы, связанные с безопасностью данных и защитой от киберугроз. Чем более цифровой и интеллектуальной становится система, тем больше уязвимостей у нее появляется.

Продолжая тему экономических препятствий и барьеров для внедрения технологий ИИ, отметим, что наряду с расходами на их функционирование появляются траты на обучение персонала работе с подобными системами, особенно если они связаны с автоматизированным принятием решений или автономным управлением.

Остановимся подробнее на негативных социальных последствиях внедрения технологий искусственного интеллекта в управленческую деятельность. Наиболее распространенным из них и, возможно, самым ожидаемым в общественном мнении является сокращение рабочих мест и потенциальные безработица. Более того, новостные ленты регулярно поддерживают эту тему. Так, например, широкий резонанс вызвала новость об увольнении компанией Tiktok более 500 сотрудников и замене их деятельности по модерации контента технологиями ИИ. Подобная информация довольно часто усиливает опасения людей относительно технологий искусственного интеллекта. И приводит к появлению неолуддизма – сознательному отвержению современных технологий с целью минимизации негативных последствий их широкого распространения.

Другим не менее значимым социальным последствием внедрения технологий ИИ является возрастание социального неравенства. Речь идет, как минимум, о неравенстве доступа к самим технологиям и их преимуществам. Так, например, даже на государственном уровне страны участвуют в гонке технологий, и не все государства сегодня обладают высококвалифицированными специалистами и крупными центрами по изучению и разработке технологий ИИ. Когда речь идет о компаниях очевидно, что наиболее крупные и технологичные из них способны наибольшей степени использовать технологии ИИ.

Еще одним эффектом внедрения новейших технологий становится потенциальная зависимость от них и потеря контроля над отдельными элементами управленческой деятельности. И хотя сегодня сложно говорить о том, что этот риск стал явным для компаний, использующих эти технологии, но его необходимо будет учитывать уже в ближайшем будущем.

Существенным препятствием и ограничением для внедрения технологий ИИ в управленческую деятельность становятся этические и правовые проблемы. Когда мы говорим о том, что алгоритмы рациональны, то мы должны помнить, что эти наборы правил разрабатываются конкретными людьми, за которыми стоят определенные ценности, установки и культурный опыт. Примером может быть то, как «в системах распознавания лиц от IBM и Microsoft возникли трудности с правильным определением темнокожих женщин, поскольку программа, используемая судебными системами для прогнозирования преступлений, была ориентирована на темнокожих мужчин». Тем самым алгоритмы могут способствовать процессу дискриминации. При этом репутационные риски будет нести именно компания.

Важно подчеркнуть, что не только этический, но и правовой аспект возникает, когда мы говорим об ответственности за решения, принимаемые интеллектуальными системами и на их основе. Это связано с проблемными ситуациями, когда возникают риски и негативные результаты для жизни и здоровья людей или финансового состояния предприятия, а также с ситуациями неправомерной деятельности. Так, например, в США в 2015 году было выявлено, что компания Фольксваген продавала автомобили со специальным интеллектуальным устройством. Это устройство, установленное на 11 миллионах различных моделей в период с 2009 по 2016 год, представляло собой программное обеспечение, которое определяло, когда автомобиль проходил обязательные экологические испытания в лабораторных условиях. Если автомобиль считал, что его тестируют, программное обеспечение Фольксваген изменяло работу двигателя в соответствии с экологическими нормами. Это позволило автомобилям быть быстрыми и мощными при движении на дорогах, производя уровни оксида азота в сорок раз превышающие разрешенный законом предел, но при этом быть экономичными и экологически безопасными при прохождении испытаний. После скандала шестерым руководителям Фольксваген были предъявлены уголовные обвинения (Joque, 2022).

Тем не менее, как подчеркивает современная исследовательница этических и правовых вопросов внедрения ИИ Л. Амур, «довольно спорным сегодня представляется вопрос о том, кто должен нести ответственность за ошибки алгоритмов» (Amoore, 2020: 108-129). Последствия могут быть опасными для жизни и здоровья человека, например, смертельные аварии, спровоцированные автономными транспортными средствами. Это «безумие алгоритмов», по словам Л. Амур, может быть вполне рациональным, поскольку «в алгоритмических решениях преобладает своего рода ограниченная рациональность, при которой граница, отделяющая добро от зла, – это граница, на которой разум противопоставляется неразумности, рациональность – иррациональности» (Amoore, 2020: 109), а, следовательно, «рациональность алгоритмов построена на силе безрассудства» (Amoore, 2020: 109).

Помимо ответственности за деятельность искусственного интеллекта важно рассмотреть вопрос о том, кому принадлежит интеллектуальная собственность в случае создания искусственным интеллектом конкретного продукта? В настоящее время этот вопрос широко обсуждается в области искусства, где технологии искусственного интеллекта создают тексты, музыкальные композиции и изображения. В рамках традиционных правовых норм сложно определить, кому принадлежит интеллектуальная собственность в случае использования технологий искусственного интеллекта. Поскольку понятия «авторство» чаще всего связывают с человеком, который создает тот или иной продукт, то в случае с искусственным интеллектом автором является технология. Следовательно, собственность может принадлежать как разработчикам, так и переходить впоследствии владельцу этой технологии.

Существует несколько подходов к тому, как может быть решена эта ситуацию. С одной стороны, искусственный интеллект в последние годы все чаще рассматривается исследователями в качестве субъекта общественных отношений, а потому может наделяться и правовым статусом. В этой ситуации права на определенную технологию в некотором смысле могут быть закреплены прямо за искусственным интеллектом. И хотя сегодня этот вопрос скорее звучит как философский и гипотетический, поскольку не существует сильного искусственного интеллекта, который мог бы обрести описанный выше статус, а также другие атрибуты, которые присущи людям, но в Японии уже существует прецедент передачи права нейросети.

В случае признания прав за разработчиками технологий искусственного интеллекта, мы сталкиваемся с тем, что сложно определить конкретный вклад участников в разработку продукта. Более того, технологии искусственного интеллекта, способные к обучению, могут превосходить изначально заданные разработчиками параметры. В рамках конкретной организации вопрос чаще всего решается путем отчуждения прав собственности на созданный разработчиками код и передачи их юридическому лицу, в котором работает конкретный сотрудник. Некоторые компании-разработчики нейросетевых решений сознательно отказываются от собственности на произведения, создаваемые пользователями на базе их продукта, чтобы в дальнейшем не нести юридическую ответственность в случае производства запрещенного контента.

Согласно доклада об искусственном интеллекте Стэндфордского университета за 2023 и 2024 годы (по данным 2022 и 2023 соответственно), в последние годы существенно возрос интерес к этим технологиям в управлении и политической сфере. Основным изменением в этой области становится увеличение интереса разного уровня регуляторов к технологиям искусственного интеллекта. Так, в 2023 году число нормативных актов, касающихся этих технологий, только в США увеличилось на 56,3% (Artificial Intelligence Index Report 2024, 2024% 369). Авторы доклада также сообщают, что упоминания искусственного интеллекта в законодательных процессах по всему миру увеличились почти вдвое: с 1247 в 2022 году до 2175 в 2023 году. В 2023 году ИИ упоминался в законодательных процессах 49 стран (Artificial Intelligence Index Report 2024, 2024% 369).

Тем самым уже сегодня очевидно, что технологии настолько активно генерируют новые продукты интеллектуальной собственности, что вопрос правового обеспечения этого процесса будет вставать все более остро. Но сегодня вопрос остается открытым и дискуссионным.

Заключение (Conclusions). Таким образом, сегодня внедрение искусственного интеллекта в управленческую деятельность позволяет нам говорить не только о возможностях, но и о потенциальных и уже реальных проблемах и рисках. Важнейшими среди них являются технологические сложности, финансовая нагрузка, негативные социальные последствия, например, дискриминация и социальное неравенство, а также возникновение этических и правовых вопросов, которые требуют дальнейшего изучения этих проблем в научном поле, а также разработки конкретных документов и рекомендаций, которые позволят минимизировать эти негативные эффекты и сократить барьеры для внедрения технологий ИИ в систему управления. Представляется, что в ближайшие годы наиболее остро встанут вопросы ответственности искусственного интеллекта, создания, поддержания и эффективного функционирования гибридных интеллектуальных систем (которые позволят гармонично встроить технологии искусственного интеллекта в деятельность человека), а также общие вопросы безопасности их использования. С одной стороны – мы получили мощнейший инструмент, поддерживающий принятие управленческих решений, с другой – все больше вопросов будет о том, почему именно эти конкретных данные и аналитические модели легли в основу того или иного управленческого шага.

Представленная в статье теоретическая рамка, включающая конкретизацию определения понятий искусственный интеллект, в том числе и в социальных науках, уровни внедрения технологий искусственного интеллекта в управленческой деятельности, а также группы положительных и негативных последствий внедрения этих технологий, может быть использована для проведения дальнейших исследований в этой области.