Изображение создано при помощи модели Шедеврум
Этические вопросы применения ИИ, анамнез информационных технологий, парадоксы машинного разума, ключи к эконометрике и мирное разрешение трудовых конфликтов – таковы сюжеты книг, недавно опубликованных Издательским домом ВШЭ. Следим за новинками в постоянном проекте IQ Media «Что почитать».
Книга Стивена Робертсона «До компьютеров. Об информационных технологиях от письменности до эпохи цифровых данных» – экскурс в реальную историю ИТ, которая, разумеется, стартует не с изобретения ЭВМ, а намного раньше. Пионеры движения – даже не английский математик Чарлз Бэббидж, автор принципов построения вычислительных машин, не Семен Корсаков – изобретатель механических устройств для информационного поиска и не первая в истории программистка Ада Лавлейс (дочь Байрона). Вероятно, истоки революции, в силу которой компьютеры стали «вездесущими», – насчитывают века? И уместно ли в этом случае слово «революция», означающее переворот и разрыв с прошлым? Именно об этом – книга Робертсона, ревизия истории ИТ.
«Мы можем говорить <...> об информационных и коммуникационных технологиях, которые включают в себя компьютеры и цифровой мир <...>, а также всю совокупность телекоммуникаций, интернета, звукозаписи, фотографии, фильмов, радиовещания, – пишет автор. – Но мы сразу же должны поставить под вопрос то, что я <...> сказал о начале революции [1945 год]. Например, телефон возник за семьдесят лет до компьютера <...>, фотография – где-то на сто лет раньше. Значит ли это, что мы должны вернуться на столетие назад, чтобы поискать там начало этой революции? Или, быть может, на пять столетий, к моменту изобретения печати?».
Робертсон, по его словам, «распутывает» множество «линий» происхождения информационных технологий: от алфавита и почты – до шифров и обработки данных. Прослеживая столь долгую историю великих изобретений ХХ и XXI века, и правда усомнишься, что это революция как таковая. Скорее, «эволюция видов».
Книга вышла в серии «Исследования культуры» в переводе Алексея Королева под научной редакцией Александра Павлова.
Новые технологии, работа с искусственным интеллектом – одна из магистральных тем IQ Media. ИИ в медицине, юриспруденции, банковском деле (включая выдачу кредитов), малом и среднем бизнесе, климатологии, обучении, искусстве и литературе, пиаре – эти сюжеты часто появляются на страницах бренд-медиа ВШЭ. Еще одна история – ИИ-зависимость: привязанность к умным алгоритмам, заставляющая воспринимать их как собеседников и даже конфидентов.
Но не менее важный сюжет – этика искусственного интеллекта. Скажем, этические проблемы использования ИИ в финансах, этика бесед с ИИ – что и как спрашивать у нейросети, чтобы не навредить себе и получить лучшие ответы. В этом контексте монография «Этика искусственного интеллекта: кейсы и варианты решения этических проблем» (она вышла уже во 2-м издании, авторы – Бернд Карстен Шталь, Дорис Шредер и Ровена Родригес) не может не привлечь внимание. По ней можно снимать сериал о ситуациях, когда использование умных алгоритмов в итоге нанесло вред.
Возможные выгоды от применения ИИ велики: от операционных улучшений (скажем, снижения числа человеческих ошибок при постановке медицинских диагнозов) до использования роботов в опасных ситуациях (для обеспечения безопасности ядерной электростанции после аварии). В то же время, отмечают авторы книги, машинный разум ставит множество этических проблем: «от предвзятости в работе алгоритмов и цифрового разрыва до проблем здоровья и безопасности».
Исследователи наглядно показывают эти риски: подобраны кейсы, когда ИИ способствовал дискриминации при найме сотрудников (отсеивал женщин), участвовал в манипуляциях мнением людей, привел к утечке данных о здоровье, попирал человеческое достоинство, некорректно действовал в коммерческих практиках и правоохранительной системе и пр.
Простой пример. В предиктивной (прогностической) полицейской деятельности используются ИТ, данные и техники анализа для того, чтобы предсказать место и время будущих преступлений. «Вычисляются» и люди, которые с большой долей вероятности могут преступить закон. Прогноз здесь опирается на данные о прошлых правонарушениях для выявления закономерностей, которые можно экстраполировать в будущее. По идее, это позволяет полиции своевременно и точно прибыть к потенциальному месту преступления.
Вместе с тем, известны случаи (кейс Гленна Родригеса), когда из-за подобных прогнозов человеку отказывали в досрочном освобождении, хотя он демонстрировал высокие показатели по программе реабилитации. Причина отказа – предсказание ИИ, что Родригес будет представлять «повышенный риск» для общества.
У этой истории – оптимистичный финал. Ее центральный персонаж добился справедливости. Родригес изучил рейтинги заключенных (включая свой собственный) и заметил влияние субъективных факторов (мнений надзирателей, которые могли иметь расовые предрассудки). В итоге его освободили досрочно. Но это лишь один кейс. А сколько возможно ситуаций, когда ИИ действует предвзято, ошибается, галлюцинирует, и это опасно влияет на судьбы людей? Каждая глава книги детализирует такие ситуации и их последствия. Чем не синопсис для сериала?
Монография вышла в серии «Исследования культуры», переведена Инной Кушнаревой под научной редакцией Александра Павлова.
На близкую тему – сборник аналитических статей, подготовленный Высшей школой бизнеса НИУ ВШЭ, – «Парадокс искусственного интеллекта» под редакцией Евгении Чернозатонской и Марины Иванющенковой (серия «Новое в менеджменте»). Во введении задана система координат: «Самая революционная и спорная технология нашего времени обещает немалую прибавку эффективности, но при этом несет в себе большие риски». В этой логике и рассуждают авторы статей. Например, о том, что руководителям бизнеса надо внимательно продумывать взаимодействие человеческого и машинного разума: отсутствие синергии «роняет» результаты, демотивирует профессионалов. Выбор задач, которые лучше поручить ИИ, продиктован разными факторами: большим объемом данных, на которых можно тренировать умные алгоритмы, весом решаемой проблемы среди других бизнес-задач, безопасностью применения искусственного интеллекта и возможностью организовать поддержку ИИ-систем.
Среди других сюжетов статей:
- В чем модели-трансформеры похожи на мозг человека?
- Насколько ИИ – «командный игрок» и какие роли отводить ему в организации?
- Как искусственный интеллект влияет на прибыльность бизнеса и рынок труда?
- Успешно ли российские предприятия осваивают ИИ?
- Каково влияние машинного разума на маркетинг и логистику?
Публикации серии «Новое в менеджменте» – всегда гарантия интересного чтения. Этот сборник – вдвойне любопытен, поскольку дает емкую и яркую характеристику нашего частого «собеседника» – машинного.
«Социальные проблемы индустриальной цивилизации» социолога Элтона Мэйо (он был профессором индустриальных исследований в Гарвардской школе бизнеса) – во всех смыслах труд исторический. Он написан в первой половине ХХ века, исследует давно завершившуюся эпоху и выдвигает теории, которые в свое время вызвали мощный резонанс, но сегодня отчасти устарели.
Однако автор книги, безусловно, заслуживает внимания. «Голос Мэйо как ученого и практикующего клинициста в равной степени авторитетно звучит и в заводских и фабричных цехах, и в университетских аудиториях», – писал в 1946 году журнал Fortune. Идеи Мэйо влияли на отношения между американским менеджментом и рабочими.
Он основал американскую индустриальную социологию и движение «за развитие человеческих отношений». Один из главных для исследователя вопросов – каков вклад социальных факторов в производительность труда? Какую роль играют кооперация, сотрудничество, социальные нормы?
«Мэйо держит в своих руках ключ к мирному разрешению трудовых конфликтов», – писал все тот же журнал. Поскольку эта тема не стареет, стоит уделить внимание книге – как минимум, как историческому источнику.
Монография опубликована в серии «Социальная теория». Перевод с английского Юрия Каптуревского под научной редакцией Артема Смирнова.
Учебник «Путеводитель по современной эконометрике» профессора финансов Марно Вербика уже получил признание в экономической среде. Он подходит и неофитам, и тем, кто уже углубляется в нюансы эконометрики. Сама эта наука – молодая, но весьма востребованная в экономике труда, маркетинге, финансовой аналитике, социологии, демографии. Ее «рецепт» – сочетание экономической теории, наблюдаемых данных и статистических методов.
Труд Вербика – с одной стороны, широкая панорама эконометрических методов, а с другой – удобное руководство для их использования. По словам автора, он сфокусирован не столько на формулах, сопровождающих методы, сколько на интуции, стоящей за ними, на их практической значимости.
Учебник вырос из записей лекций по прикладной эконометрике для магистратуры Левенского католического университета (Бельгия) и Тилбургского университета (Нидерланды). Книга выдержала не одно издание, и Вербик от публикации к публикации дополнял материалы.
«Автор <...> пытается провести читателя через лес процедур оценивания и тестирования, при этом не описывая красоту всех уникальных деревьев в нем, а постепенно проходя через этот лес по четко заданному пути <...>», – пишет Вербик. И – выражает надежду, что прогулка будет приятной, и читатель не заблудится в «эконометрической чаще».
В подписке — дайджест статей и видеолекций, анонсы мероприятий, данные исследований. Обещаем, что будем бережно относиться к вашему времени и присылать материалы раз в месяц.
Спасибо за подписку!
Что-то пошло не так!
