Изображение создано при помощи модели Шедеврум
Вы когда-нибудь задумывались, как нейросети «слышат» наши вопросы? Для нас слова — это смыслы, эмоции, интонации. Для ИИ — математические вероятности. Однако, как и в любой беседе, важно придерживаться правил общения. Как корректно формулировать запросы к ИИ? Где проходит граница между разумным использованием технологии и этическими рисками? Разберемся в этих вопросах.
Даниил Осипов
Доцент Школы иностранных языков НИУ ВШЭ, кандидат филологических наук, участник проекта НИУ ВШЭ «Консультанты по преподаванию в цифровой среде».
Содержание:
Многие уверены, что искусственный интеллект — это цифровая энциклопедия, которая знает все, поможет во всем разобраться, а на самом деле он скорее похож на эрудированного рассказчика: всегда предложит интересный ответ, но его точность зависит от доступных ему данных и анализа вероятностей.
Периодически появляются истории, что ChatGPT использовали для поиска прецедентов для подготовки к слушаниям по делу, и нейросеть сгенерировала несколько судебных решений, которые никогда не существовали! Они казались правдоподобны, но полностью вымышлены. ИИ не обманывает, он просто комбинирует информацию так, как это кажется ему наиболее логичным. Поэтому факты всегда нужно проверять в нескольких источниках.
И стоит учитывать, что алгоритмы обучаются на данных, которые могут содержать ошибки.
🔸 Можно:
✅ Факты, которые легко проверить (например, «Кто написал «Герой нашего времени»?»).
✅ Креативные запросы («Предложи варианты названий для Telegram канала, посвященного цифровым видам искусства»).
✅ Структурирование информации («Разбей эту тему на 3 ключевые части»).
🔸 Нельзя (или опасно):
❌ Личные данные (любые сочетания персональных данных).
❌ Медицинские диагнозы (периодически в сети появляется информация о том, что нейросеть помогла установить диагноз пациенту после загрузки всех результатов анализов и описаний, но то, что группы врачей потом проверяют этот «диагноз», уточняя его, часто остается за скобками).
❌ Политически чувствительные темы (ИИ может быть предвзятым из-за обучающих данных).
В некоторых странах разработчики запрещают ИИ обсуждать определенные исторические события, чтобы избежать манипуляций и искажений фактов.
ИИ можно сравнить с джинном из бутылки: если сформулировать желание расплывчато, результат может оказаться неожиданным.
Лайфхак от промпт-инженеров: указываем роль, ставим задачу, описываем ситуацию и приводим примеры.
(Роль) Ты — профессиональный копирайтер, обладаешь знанием нейросетевых инструментов. (Задача) Твоя задача придумать 10–12 креативных названий для канала, посвященного цифровому искусству. Эти названия должны привлечь внимание пользователей, предпочитающих все футуристичное, современное и нестандартное. (Описание) Сфокусируйся на том, как искусственный интеллект помогает человеку создавать новые арт-образы. Различные стили, жанры, техники. Ключевые тезисы: «технологичность», «новаторство», «приглашение к диалогу о будущем искусства». Аудитория — активная молодежь, которая любит открывать что-то нестандартное. (Примеры) 1. Алхимия пикселей. 2. Муза в цифре. 3. Машины и краски вперемешку.
RACE — Role, Action, Context, Expectation (Роль, Действие, Контекст, Ожидания).
ROSES — Role, Objective, Scenario, Expected Solution, Steps (Роль, Цель, Сценарий, Ожидаемое решение, Шаги).
С появлением нейросетей изменились не только технологии, но и культура взаимодействия с ними. Раньше мы доверяли словам учителей и экспертов, и у нас выработались тактики общения друг с другом. Теперь же каждый может «разговаривать» с искусственным интеллектом, но вот вызов: мы сами не всегда понимаем, как правильно это делать. Появился термин «кибер-вежливость», который описывает нормы общения с ИИ. Некоторые пользователи принципиально говорят с нейросетями вежливо, даже если те не обладают сознанием. Это проявление человеческой природы: мы проецируем на машины своё восприятие мира.
Обратная сторона: может ли взаимодействие с ИИ менять нашу культуру общения? Если мы привыкаем требовать мгновенные ответы без эмпатии, не переносим ли мы такой стиль коммуникации и на реальных людей?
ИИ — не живое существо, но и не просто калькулятор. Он отражает наши запросы, помогает решать задачи, но не несет ответственности за последствия своих ответов. Этические границы общения с ним — в наших руках.
В подписке — дайджест статей и видеолекций, анонсы мероприятий, данные исследований. Обещаем, что будем бережно относиться к вашему времени и присылать материалы раз в месяц.
Спасибо за подписку!
Что-то пошло не так!
