Краткий ответ: Никогда не размещайте пароли, ключи API, идентификаторы, медицинские или банковские записи, файлы клиентов, защищенные соглашением о неразглашении, или чужие данные в общедоступном чате ИИ. Когда вам нужна помощь, опишите проблему с помощью заполнителей и отредактированных фрагментов — модели нужна суть проблемы, а не секреты, которые открывают реальные системы.
Основные выводы:
Секреты остаются в офлайне: никогда не вставляйте пароли, токены, cookie-файлы или сид-фразы в командную строку.
Уничтожение личности: подмена реальных имен, адресов и идентификационных номеров на вымышленные или поддельные роли.
Конфиденциальность в работе: не допускайте публикации черновиков соглашений о неразглашении, клиентских файлов и неопубликованных планов в чате с клиентами.
Граница согласия: Не вставляйте личные данные коллег, клиентов или детей без предварительного согласования с человеком.
Сначала отредактируйте: используйте заполнители и отредактированные выдержки; замените все, что уже было слито.
Что НИКОГДА не следует вкладывать в ИИ
Сначала вставляем, потом обдумываем. Чат-бот сидит, как терпеливый стажер с бесконечным запасом кофе, поэтому кажется почти безобидным вывалить всю эту запутанную проблему в окно. Неработающий логин. Пункт договора, от которого скручивает желудок. Скриншот панели управления, на котором все имена все еще видны. Инструмент полезен, атмосфера кажется относительно приватной, и ваш мозг тихонько помещает его в папку «заметки, которые я написал для себя»
В этом и ловушка. 🧠 Чат — это не запертый ящик. Это разговор с системой, которая хранит, обрабатывает и иногда обучается на основе того, что вы отправляете, в зависимости от продукта, настроек и того, заметили ли вы эти настройки вообще. Я здесь не для того, чтобы загнать вас в угол от паники. Я здесь, чтобы предложить вам практическое руководство о том, чего НИКОГДА НЕ СЛЕДУЕТ вкладывать в ИИ, а также неброские, но практичные привычки, которые позволят вам получать точные ответы.
Представьте, что вы выкрикиваете секрет на переполненной кухне. Не все посторонние вас слушают. Но некоторые всё же могут. И кухня хранит запись по причинам, которые никогда не бывают такими простыми, как это преподносится в рекламных текстах.
Почему мы вываливаем всё в чат?
Скорость. Вот и всё. Вы застряли, ошибка неприятная, и кажется, что вставить весь лог быстрее, чем его сократить. Контекст кажется благосклонностью к модели. Чем подробнее, тем лучше помощь; это распространенное мнение, и оно лишь отчасти верно.
Вторая половина — эмоциональная. Чат-бот не поднимет бровь. Он не расскажет вашему начальнику. Он не будет сплетничать за обедом. Поэтому мы относимся к нему как к дневнику со сверхспособностями. Я так делала. Вы, вероятно, тоже. В тот момент, когда что-то становится одновременно удобным и не выносящим осуждения, наши инстинкты приватности уходят на перерыв.
Вот слегка раздражающая правда: модели не нужны ваши повседневные детали, чтобы помочь вам. Ей нужна форма проблемы. Имена, токены, номера счетов и лица на скриншотах — это всего лишь украшение. Вкусное украшение. Всё ещё украшение.
- Вы вставляете текст, потому что редактирование кажется вам лишней работой.
- Вы вставляете текст, потому что "только один раз" — это привычка, замаскированная под что-то другое.
- Вы вставляете текст, потому что интерфейс выглядит как личное сообщение и работает как картотека.
Ничто из этого не делает вас безрассудным. Это делает вас человеком. Решение — двухсекундная пауза, а не пересадка личности.
Пароли, ключи API и секретные данные, которые следует хранить в офлайне 🔐
Если что-то может разблокировать, этому не место в подсказке. Пароли. Одноразовые коды. Сессионные cookie. SSH-ключи. Строки подключения к базе данных. API-ключ, который вы обещали себе сменить «вскоре». Сид-фразы кошелька. Приватные сертификаты. Вопрос для восстановления, который ваш банк до сих пор считает остроумным.
Раньше я представлял ключи как ключи от дома на крючке у двери. Милая метафора, но она тут же рушится, потому что ключ от дома открывает одну дверь, а ключ API может открыть склад, платежный аккаунт и кучу записей о клиентах, о которых вы даже забыли. Подводя итог: относитесь к секретам как к радиоактивным веществам. Вы же не кладете радиоактивные вещи в сэндвичницу, даже если сэндвичница отлично готовит сэндвичи.
Модель не может «сохранить это между нами» так же, как это может сделать друг. Даже если поставщик предлагает управление памятью, даже если вы отключите обучение, текст все равно будет передаваться, записываться в какой-то форме и может оставаться в истории чата, пока вы не начнете его искать. Предположим, что вставленный текст — это копия, которую вы больше не полностью контролируете.
Что делать вместо этого?
- Описывайте секрет по типу, а не по значению. Для получения рекомендаций по отладке достаточно указать "URL-адрес PostgreSQL, содержащий пароль".
- Замаскируйте очевидные заполнители: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Удалите всю уже слитую информацию. Сделайте это сейчас, а не потом, "посмотрим, что произойдет"
- Храните настоящие учетные данные в менеджере паролей или хранилище секретов; никогда не храните их в переписке, скриншот которой вы можете сделать позже.
Если инструмент запрашивает у вас вставку ключа для "подключения", это уже другая категория продуктов. Это интеграция с Access, а не помощник для написания текстов. Относитесь к этому так же, как к передаче кому-либо своего пропуска.
Персональные идентификаторы и скрытый след идентичности 🪪
Персональные данные — это непривлекательный родственник паролей. Номера национальных удостоверений личности. Паспортные данные. Поля, содержащие информацию о дате. Домашние адреса. Номера телефонов. Идентификационные номера сотрудников. Номера студентов. Полные юридические имена в сочетании с датами рождения, названиями учебных заведений или медицинских клиник. Один элемент выглядит небольшим. Три элемента вместе составляют досье.
Люди делают это, когда хотят написать письмо, перевести форму или отшлифовать резюме. Вполне разумные цели. Для составления вежливой жалобы модели не нужен реальный почтовый индекс. Ей нужен тон, факты, не раскрывающие личность, и желаемый результат.
Полагаю, самая сложная часть — это «безобидные» сочетания. Уникальная должность плюс город плюс школа ребенка плюс редкое заболевание. Вы же не станете размещать это на рекламном буклете. Чат — это не рекламный буклет, но это и не хранилище.
- Замените реальные имена на роли: «менеджер по найму», «мой лечащий врач», «арендатор»
- Указывайте местоположение в обобщенном виде: «город среднего размера», а не название улицы и код от домофона.
- Исключайте уникальные числа, если только задача не связана непосредственно с форматом чисел; в этом случае используйте поддельное число, которое выглядит достаточно правдоподобно.
Анонимизация — это не докторская степень. Это привычка проверять, сможет ли незнакомец опознать вас по этому абзацу. Если сможет, то нужно его сократить.
Конфиденциальная информация о работе, соглашения о неразглашении и то, от чего ваш начальник бы вздрогнул 📎
Вот где стремление помочь приводит к проблемам. Вы вставляете презентацию для клиента. Невыпущенный план развития. Таблицу с зарплатами. Исходный код с внутренними именами хостов. Проект юридического документа, который все еще помечен как конфиденциальный. Протокол совещания с именами людей, которым еще не сообщили о соглашении. Соглашение о неразглашении, которое вы подписали в спешке, потому что кофе остывал.
Чат-боты — это не корпоративные консультанты, и они не являются безопасным рабочим местом, если ваша организация не внедрила их в реальных условиях. Инструменты для потребителей созданы для удобства. Корпоративные инструменты могут быть лучше, с контролем хранения данных и административными политиками; но это всё равно не повод вставлять лучшие файлы ради проверки грамматики.
Практическое правило, которое я всегда держу в голове на стикере: если вы не стали бы писать это в личном черновике Gmail, не пишите это и в публичном чате с ИИ. То же самое, если вы не сказали бы это в машине такси. Люди, которые осторожны в Slack, становятся поэтами чрезмерного раскрытия информации, как только появляется кнопка «Сгенерировать».
Более безопасные обходные пути
- Опишите документ: объем, целевая аудитория, три ключевых момента, необходимый тон.
- Вставьте отредактированный отрывок. Удалите имена, конфиденциальные данные и всё, что могло бы вызвать одобрение у участников соревнований.
- Запросите структуру или шаблон переписывания, а затем примените его самостоятельно к реальному тексту в автономном режиме.
- Используйте утвержденный инструмент для организации рабочего процесса, если он у вас есть, и при этом сохраняйте возможность редактирования по умолчанию. Правила — это нижний предел, а не батут.
Код — это особый вид подобного подхода. Внутренние URL-адреса, заголовки аутентификации и комментарии типа "TODO: удалить перед приобретением" — это всего лишь небольшие подарочные бирки. Используйте фиктивные данные. Сохраняйте логику. Модель хорошо обрабатывает фиктивные данные; ей не нужна ваша производственная схема с реальными адресами электронной почты клиентов, всё ещё вложенными в фикстуру.
Здоровье, деньги и мелочи, о которых вы бы не стали кричать через кафе 💊
Медицинские и финансовые детали кажутся срочными, поэтому их вставляют с минимальной редактурой. Результаты анализов. Списки рецептов. Страховые полисы. Банковские выписки. Налоговые письма. Кредитные отчеты. Фотография карты «только из-за последних четырех цифр», которая каким-то образом включает в себя остальную часть карты, ваш кухонный стол и письмо с чужим именем.
Можно задавать отличные вопросы, даже не имея полной информации о результатах анализов. Например, «Объясните, что может означать повышенный показатель в общих чертах». А вот моя полная информация о результатах анализов: «Вот мой полный список обследований, мой адрес, моя клиника и девичья фамилия моей матери» — это биография.
Я не говорю, что никогда не следует говорить о здоровье или деньгах с моделью. Я говорю, относитесь к чат-боту как к начитанному незнакомцу в поезде. Хорошо подходит для создания контекста. Ужасно в качестве бухгалтера, врача или архива. И да, я знаю, что метафора с начитанным незнакомцем просачивается наружу; в поездах не ведутся журналы чатов. В этом-то и суть.
- Удалите номера счетов, сортировочные коды, IBAN и все, что выглядит как учетные данные.
- Попросите общие пояснения, контрольные списки и вопросы, которые следует задать специалисту.
- Не используйте чат как картотеку для выписок, "чтобы я мог запросить их позже". Именно это "позже" и приводит к проблемам с удержанием клиентов.
Если вам нужно говорить тише в кафе, предварительно отредактируйте текст. Этот тест на удивление надежен и ничего не стоит.
Вставлять чужие данные нельзя 🚫
Этот скриншот пропускают, потому что создаётся ощущение, что вы — главный герой чата. На скриншоте не только вы. Электронные письма коллег. Идентификатор партнёра. Жалоба клиента с прикреплённым номером телефона. Фотографии детей. Обсуждение в Slack, где упоминается, кого чуть не уволили. Расшифровка телефонного разговора, о котором собеседник не знал, что его передадут модели.
Согласие не переходит автоматически от "они мне написали" к "машина может это сохранить". Даже если ваши намерения добры — вы составляете более вежливый ответ, резюмируете запутанную переписку — исходный текст всё равно является их жизнью, а не вашей черновой заметкой.
Слегка саркастический критерий: если вы не стали бы пересылать тот же самый текст в список рассылки незнакомых людей «для получения обратной связи», то не следует рассматривать чат-бота как небольшой список рассылки с более вежливыми манерами.
- Перескажите содержание высказываний других людей своими словами.
- Замените имена ролями и удалите контактные данные.
- Спросите человека, является ли задача конфиденциальной; некоторые вещи должны оставаться исключительно делом рук человека.
- Никогда не размещайте личные данные детей, школьные документы или фотографии, удостоверяющие личность, ради развлечения.
Здесь есть юридический аспект, который я не буду пытаться обсуждать в стиле блога. Правила конфиденциальности, трудовые обязанности и договоры с клиентами — все это имеет свои особенности. Практическая привычка проще, чем закон: по умолчанию не запрашивайте доступ к чужим данным.
Что НИКОГДА не следует вкладывать в ИИ: таблица рисков, которую вы можете использовать на практике
Мне нравятся таблицы для этого, потому что список «никогда» может звучать назидательно, а сетка позволяет увидеть изменения. Это слегка субъективные оценки, а не лабораторный отчет.
| Тип данных | Уровень риска | Почему это проблема | Более безопасная альтернатива |
|---|---|---|---|
| Пароли, ключи API, токены, сид-фразы | Критический | Они разблокируют системы; копия, которую вы не можете полностью вспомнить, всё равно остаётся копией | Заполнители плюс локальный менеджер по секретам; ротация в случае утечки |
| Государственные удостоверения личности, сканы паспортов, национальные номера телефонов | Критический | Стартовый набор для защиты от кражи личных данных; сложно "отменить отправку" | Поддельные примеры или вопросы, требующие только соблюдения формата |
| Медицинские карты, рецепты, страховые полисы | Высокий | Интимная, сдержанная и запоминающаяся история | Общие симптомы или темы; не указывайте идентификаторы на странице |
| Банковские выписки, налоговые документы, фотографии банковских карт | Высокий | Прямые финансовые риски плюс дополнительные риски, связанные с профессиональной ответственностью, в качестве компенсации | Спрашивайте о процессах, а не о сырых цифрах, привязанных к вам |
| Клиентские файлы, черновики соглашений о неразглашении, неопубликованные планы | Высокий | Вы можете нарушить уже данное вами обещание | Очищенные от ненужных фрагменты; запросы на структурирование; утвержденные рабочие инструменты |
| Персональные данные коллег или клиентов, информация о детях | Высокий | Вы не вправе жертвовать деньги модели | Сводные данные по ролям; удаление контактных данных и лиц |
| Внутренний источник с именами хостов и реальными адресами электронной почты | Средне-высокий | Пока кто-нибудь не составит карту вашей сети, всё будет выглядеть как "просто код" | Фиктивные данные, поддельные домены, урезанные комментарии |
| Скриншоты панелей управления или почтовых ящиков | Средне-высокий | Они тайно передают имена, номера телефонов и открытые вкладки, о существовании которых вы забыли | Обрежьте, размойте или перепечатайте соответствующий фрагмент |
| Расплывчатые личные истории без каких-либо уникальных идентификаторов | Ниже | Обычно все в порядке; но все же избегайте всего, о чем вы бы не рассказали незнакомцу | Используйте общие формулировки; избегайте редких сочетаний для идентификации |
Если ничего больше не запомните, запомните левую колонку. В ней заключена суть того, что НИКОГДА НЕ СЛЕДУЕТ вкладывать в ИИ, когда вы спешите и ваш мозг хочет вставить всю вселенную.
Ловушки для скриншотов и случайное чрезмерное распространение информации 🖼️
Скриншоты — это способ, которым хорошие люди допускают ошибки. Вы хотели показать диалоговое окно с ошибкой. На снимке видна панель закладок, значок Slack с именем, URL-адрес с токеном, всплывающее окно календаря, отражение в окне темного режима, которое оказывается менеджером паролей. Я обрезал снимок, но все равно не увидел крошечный переключатель учетных записей в углу. Это типичная ошибка.
Фотографии документов получаются хуже, потому что камеры щедры на пиксели. Стол, доска, больничный браслет, транспортная накладная. Модели могут и не «нуждаться» в дополнительных пикселях. Но пиксели всё равно поступают.
Простой ритуал создания скриншотов
- Сначала обрежьте. Потом обрежьте ещё раз. А потом посмотрите на края так, будто они вам должны денег.
- Размывайте имена, адреса электронной почты, аватары и любые строки, которые выглядят как токены.
- Лучше перепечатать сообщение об ошибке, чем фиксировать всю ситуацию в IDE.
- Не загружайте фотографию карты, паспорта или посадочного талона «для быстрого ознакомления». Вместо этого напишите вопрос.
Голосовые заметки и загрузка файлов работают по тому же принципу. Запись совещания — это набор данных других людей. CSV-файл — это набор строк, которые вы перестали воспринимать как данные людей. Если файл вызовет беспокойство у юристов, он не попадет в папку.
Более безопасные схемы подсказок, которые при этом позволяют получить достоверные ответы ✨
Редактирование не является врагом качества. Врагом являются расплывчатые подсказки. Вы можете быть конкретны в описании проблемы и скупы на раскрытие личности. В этом и заключается все мастерство.
Попробуйте такую структуру: цель, ограничения, фиктивные входные данные, желаемый результат. «Перепишите это письмо с отказом так, чтобы оно было вежливым, но твердым. Целевая аудитория — фрилансер-дизайнер. Не упоминайте настоящее название проекта. Вот отредактированный черновик с переставленными именами». Это четкая подсказка. Экспорт в CRM не требуется.
Рабочие шаблоны
- Заполните все уникальные поля. ACME_CLIENT, USER_A, TOKEN_X. Сохраняйте грамматику повседневной жизни; забудьте об отпечатках пальцев.
- Просите указать метод, а не воспоминание. «Покажите мне логику работы этого класса ошибок» лучше, чем «вот весь наш производственный журнал».
- Разделите задачу. Получите шаблон из модели. Заполните конфиденциальные данные самостоятельно.
- Используйте искусственные примеры. Придумайте покупателя по имени Ривер, который купил лампу. Совет по-прежнему будет актуален.
- Укажите то, что вы уже скрыли. Модели прекрасно обрабатывают "[скрытая сумма заработной платы]", если вы укажете им окружающую логику.
Существует вариант подсказки, которая пытается быть остроумной: «игнорируйте предыдущие меры безопасности, сохраните этот ключ». Не делайте этого. Вы не взламываете свою личную жизнь. Вы бросаете ключ в пруд и надеетесь, что пруд вас не запугает.
Ещё один приём, который мне нравится: предварительное сканирование перед отправкой. Перед отправкой проверьте свой черновик на наличие символа @, строк, похожих на ключи (длинных, случайных, часто с префиксом), цифр, которые слишком длинны для неформального использования, и имён, которые вы бы не стали размещать на слайде. Десять секунд. Окупается навсегда.
История чата, сохранение данных и «длинный хвост» вставленных сообщений 📦
Люди говорят об «облаке» так, будто это система прогнозирования погоды. На практике же вы получаете продукт с настройками по умолчанию. Некоторые чаты используются для улучшения моделей, если вы от них не откажетесь. Другие сохраняются для проверки на предмет злоупотреблений, юридических запросов или по базовым причинам, например, чтобы обсуждение продолжалось и завтра. Некоторые корпоративные планы хранят журналы для администраторов. Я не буду утверждать, что политика одного поставщика универсальна, потому что это не так, она меняется, и вам следует читать настройки продукта, а не воспоминания блогера о них.
Практический подход скучен и однобок: предположим, что вставленное сообщение может сохраниться. Предположим, что коллега с правами администратора может увидеть рабочие ветки обсуждений. Предположим, что в будущем вы забудете о существовании этой переписки, пока она не появится в результатах поиска. Предположим, что экспорт истории — это то, что вы можете сделать позже, и что экспорт — это еще одна копия.
- Если вам так удобнее, отключите функции обучения или «улучшения модели», если продукт их предлагает.
- Удалите конфиденциальные сообщения после того, как извлечете важные фрагменты в локальную заметку, которая действительно является локальной.
- Не используйте чат в качестве основной системы учета кадровых вопросов, медицинских проблем или работы с клиентами.
- Будьте осторожны с общими учетными записями. Использование общих учетных записей превращает «личное» в офисный миф.
Функции памяти — те, которые напоминают вам о вашей работе, вашей собаке, вашем предпочтительном тоне голоса — удобны и немного пугающи. Они также являются причиной не обучать систему вашим реальным идентификаторам, «чтобы она стала более персонализированной». Персональность — это стиль. Это не ваш номер социального страхования.
Нормы поведения на рабочем месте, когда ваша команда работает с чат-ботами 🏢
В офисах привычка вставлять текст становится чем-то вроде промышленного производства. Кто-то выгружает CSV-файл с данными о клиентах, чтобы «очистить столбцы». Кто-то добавляет документ со стратегией, чтобы «сделать его более содержательным». А стажер с благими намерениями вставляет текст в канал инцидентов. Никто не злодей. Все стимулы — скорость и качество.
Если вы руководите командой, напишите короткое, понятное правило. Не 40-страничную политику, которую никто не читает. Что-то вроде: никаких учетных данных, никаких персональных данных клиентов, никаких неопубликованных номеров, никаких юридических черновиков, используйте утвержденный инструмент, редактирование по умолчанию. Затем покажите пример хорошо отредактированного запроса, чтобы людям не приходилось гадать.
- Укажите разрешенный инструмент, если он у вас есть, и неразрешенные.
- Предоставьте участникам контрольный список для редактирования, который они смогут заполнить до начала совещания.
- Сделайте так, чтобы можно было смело сказать: «Я чуть было это не скопировал», без театрального расследования.
- Напомните людям, что фраза "искусственный интеллект сказал, что все в порядке" не является контрольной.
Даже если вы не возглавляете команду, вы всё равно можете быть тем, кто приклеивает муляж. Культура заразительна в обе стороны. Наверное, это звучит слишком серьёзно. Так же меняются и нормы: один человек перестаёт сваливать ключи в кучу, и в комнате становится немного меньше беспорядка.
Театрализованные закупки — это побочный квест, который я пропущу. Покупка «корпоративной» оболочки не делает волшебным образом каждое предложение полезным. Она может помочь с удержанием и доступом. Ваши привычки по-прежнему играют решающую роль.
Вы уже вставили что-то нелепое — что дальше? 🧯
Такое случается. Нажимаешь «отправить», и твоя душа покидает тело. Не впадай в ступор. Выполни короткую, немного негламурную последовательность действий.
- Прекратите использовать этот секрет. Смените пароль, отзовите ключ, аннулируйте сессию. Это единственный шаг, который навсегда закроет дверь.
- Удалите чат, если это позволяет программа, и очистите все разделы «недавно удаленные», если таковые имеются.
- Проверьте подключенные приложения и объем памяти. Некоторые инструменты сохраняют фрагменты кода в памяти или файлах проектов, о включении которых вы забыли.
- Сообщите нужному человеку, если речь идёт о рабочих данных. В службу безопасности, менеджеру, руководителю клиента — тому, кто отвечает за зону поражения. Раннее обнаружение проблемы менее болезненно, чем позднее.
- Обращайте внимание на необычные входы в систему в связанных учетных записях. Ротация без мониторинга — это половина дела.
Если это были чужие данные, вы также обязаны их исправить и, в зависимости от масштаба проблемы, предупредить. Неловко. Но всё же лучше, чем надеяться на вежливость Вселенной.
Не пытайтесь «переписать» утечку, вставляя дополнительные пояснения. Дополнительный контекст — это лишний текст. Выходите из обсуждения.
Собираем это воедино
Краткая версия того, что НИКОГДА НЕ СЛЕДУЕТ ДОПУСКАТЬ в ИИ, — это не список наставлений. Это позиция. Если что-то открывает систему, идентифицирует человека или заставило бы вас поморщиться в кафе, это не должно попадать в ловушку. Вы все равно можете получить отличную помощь. Просто дайте модели эскиз, а не ключи от дома, медицинскую карту и почту соседа.
Краткое резюме:
- Никаких паролей, ключей, токенов или сид-фраз. Если вы допустили ошибку, смените учетную запись.
- Никаких настоящих удостоверений личности, полных финансовых документов, необработанных медицинских записей или материалов, подлежащих соглашению о неразглашении.
- Никакой личной информации других людей, особенно детей.
- Скриншоты вводят в заблуждение своей полнотой; обрезайте их так, как вам хочется.
- Удалите лишнее, используйте фиктивные данные и запросите методы. Конкретная проблема: фальшивые метки.
- Предполагайте, что история сохраняется. Удаляйте, а не архивируйте секреты в чат-боте.
- На рабочем месте необходимы краткие правила и хороший пример, а не атмосфера небрежного уединения.
Используйте инструменты. Они отлично подходят для создания черновиков, отладки фигур и помогают разобраться с непонятными ошибками. Просто перестаньте относиться к текстовому полю как к сейфу с чувством юмора. Это очень умный блендер. Но всё же не стоит класть свой паспорт в блендер. 🫡
Практический пример: создание отладочного задания с предварительным редактированием для небольшой команды разработчиков
Правила конфиденциальности действуют тогда, когда спасают обычный вторник, а не тогда, когда звучат сурово. Вот как команда из пяти человек из британской SaaS-компании использовала привычки, описанные в этом руководстве, чтобы прекратить передачу учетных данных и персональных данных клиентов в чат-боты для потребителей — не отказываясь при этом от помощи в отладке.
Сценарий
Разработчиков и службу поддержки объединяет одна болезненная привычка: когда ошибка аутентификации выглядит некрасиво, кто-то вставляет весь лог, строку подключения к тестовой среде и скриншот панели администратора, «чтобы у модели был контекст». В прошлом квартале это включало в себя API-ключ, выглядящий как работающий, в трассировке стека и адрес электронной почты клиента, все еще видимый в адресной строке скриншота. Никто не хотел причинить вред. Скорость победила. На кухне оставили запись.
Им не нужна лекция. Им нужно повторяемое задание: описать секрет по типу, заменить заполнителями, обрезать скриншоты, попросить указать метод, а не просто вспомнить, а затем применить исправление на работающих системах в автономном режиме. Консультации с клиентами по-прежнему приносят свои плоды. Ключи от дома не попадут в блендер.
Цель состоит в том, чтобы обеспечить такое же качество рекомендаций при двухсекундном предварительном просмотре перед вставкой текста, а также внедрить простое командное правило, которому будут следовать все.
Что нужно помощнику
- Упрощенная схема проблемы: класс ошибки, приблизительное время начала, среда (тестовая или производственная), без имен хостов, соответствующих сети
- Только фиктивные входные данные: REDACTED_KEY, USER_TOKEN, customer@example.com, фиктивные идентификаторы запросов.
- Что уже было удалено (указано в запросе, чтобы модель не запрашивала истинные значения)
- Желаемый результат: вероятные причины, список необходимых проверок, план исправления — а не "подключиться с помощью моего ключа"
- Человек, хранящий учетные данные в менеджере паролей или хранилище секретов
- Правило для команды, занимающее всего одну страницу: никаких учетных данных, никаких персональных данных клиентов, никаких неопубликованных данных, по умолчанию — редактирование
Пример инструкции
Цель: Помогите мне отладить периодически возникающую ошибку 401 в нашем тестовом API после обновления токенов. Не просите меня вставлять секретные ключи.
Ограничения: Я уже удалил пароли, ключи API, токены, cookie, внутренние имена хостов и электронные адреса клиентов. Заполнители в журнале означают, что истинные значения существуют только на моей машине. Английский язык (Великобритания). Без преамбулы.
Фиктивный фрагмент: Запрос к https://api.example-staging.invalid/v1/session вернул 401. Заголовок Authorization: Bearer REDACTED_KEY. В теле запроса указано, что USER_TOKEN истек. Описание скриншота (не прилагается): только всплывающее сообщение об ошибке; панель закладок и переключатель учетных записей обрезаны.
Задача: перечислите три наиболее вероятные причины возникновения этой ошибки, проверки, которые следует выполнить локально, и минимальный план исправления. Если вам потребуется более подробная информация, запросите тип данных (например, "настройка TTL токена") — никогда не запрашивайте сам секретный ключ.
Результат: Пронумерованные причины, затем контрольный список, а затем три пункта "чего не следует вставлять в следующий раз".
Как это проверить
- Сравните текст в старом стиле (полный лог + скриншот) с отредактированным кратким описанием инцидента того же типа. Сравните качество консультаций и то, запрашивает ли модель секретную информацию.
- Предварительная проверка перед отправкой: перед отправкой проверьте черновик на наличие символов @, длинных случайных строк и чисел, слишком длинных для неформального использования.
- Особый случай: добавьте поддельный ключ, который выглядит подлинным, и подтвердите, что ответ по-прежнему работает, без необходимости указывать истинное значение.
- Крайний случай: отклонить загрузку скриншота; повторно ввести только строку с ошибкой; убедиться, что контрольный список по-прежнему помогает.
- Проверки приемки: (1) в потоке нет учетных данных, (2) нет контактных данных клиента, (3) указаны заполнители, (4) результат представляет собой метод/контрольный список, а не поток "вставьте свой ключ", (5) если что-то просочилось ранее, ротация произошла в тот же день.
Результат
Примерный результат (оценка для небольшой команды инженеров/поддержки, не опубликованное исследование): За четыре недели в 12 отладочных чатах среднее время до создания пригодного для использования контрольного списка немного увеличилось — с примерно 4 минут (полная вставка) до примерно 6 минут с редактированием — две дополнительные минуты ушли на предварительное сканирование и заполнение заполнителей. Количество чатов, содержащих критически важные типы данных (ключи, электронные письма клиентов, необработанные строки подключения), сократилось с 9 из 12 до 1 из 12 (этот чат был обнаружен при проверке и заменен в тот же день). При использовании простого контрольного списка гигиены (без секретной информации, без персональных данных клиентов, с указанием заполнителей, обрезанные или отсутствующие скриншоты) 11 из 12 отредактированных кратких отчетов прошли проверку по сравнению с 3 из 12 при старой практике. Ограничения: небольшая выборка, одна команда, самостоятельная оценка времени; более мягкие инциденты требуют меньшего редактирования; «прохождение» означало экспертную оценку текста запроса, а не лабораторный аудит журналов поставщика.
Чтобы измерить производительность вашей собственной версии: возьмите 10 недавних потоков отладки ИИ для проверки запрещенных типов данных, затем возьмите 10 потоков после применения правила и шаблона для удаления данных; сообщите количество с указанием знаменателей, а также медианное значение времени от момента «застревания» до момента «получения контрольного списка»
Что может пойти не так?
- Подмена скриншота: ошибка в порядке; адресная строка по-прежнему содержит токен. Обрежьте дважды, затем проверьте края.
- Ключи "только один раз": утечка одного-единственного API-ключа может открыть доступ к платежным и клиентским данным. Меняйте ключ немедленно; не ждите, "что-нибудь случится".
- Данные других людей: жалоба клиента с указанием номера телефона — это не ваша собственность, чтобы передавать её модели. Кратко изложите своими словами.
- Чат как хранилище: оставление секретов в истории создает еще одну копию. Удалите ветку после того, как переместите необходимые фрагменты в локальную заметку.
- Корпоративный театр: утвержденный инструмент на рабочем месте способствует удержанию сотрудников; он не делает целесообразным прикрепление самых ценных персон к коллективу.
- Пропуск ротации после ошибки: удаление чата без отзыва ключа оставляет дверь открытой.
Практический вывод
В искусственный интеллект никогда не следует вкладывать не столько список замечаний, сколько позицию: если он открывает систему, идентифицирует человека или вызывает у вас отвращение в кафе, пусть он останется вне системы. Загружайте в модель эскиз с заполнителями, храните учетные данные в хранилище и запрашивайте методы, которые вы применяете в автономном режиме. Эта двухсекундная пауза — залог того, что отзывчивый стажер с неограниченным количеством кофе перестанет превращаться в картотеку для ваших ключей от дома.
Часто задаваемые вопросы
Что ни в коем случае нельзя добавлять в чат-боты с искусственным интеллектом?
Если это открывает доступ к системе, идентифицирует человека или вызывает у вас отвращение в кафе, лучше не используйте это. Это касается паролей, ключей API, токенов, сид-фраз, государственных удостоверений личности, необработанных медицинских и финансовых данных, материалов соглашения о неразглашении и личных данных других людей — особенно детей. Чат — это не запертый ящик; текст может храниться, обрабатываться и иногда использоваться для обучения в зависимости от продукта и настроек. В качестве исходных данных для модели используйте эскиз с заполнителями, а не ключи от дома.
Почему люди вставляют секреты в ИИ, даже зная, что это не так?
Скорость решает большую часть работы: неприятная ошибка заставляет весь лог работать быстрее, чем его упрощение. Чат-боты также кажутся непредвзятыми, поэтому инстинкты конфиденциальности отходят на второй план. Модели обычно нужна суть проблемы, а не имена, токены, номера счетов или лица на скриншотах — это всего лишь украшение. Двухсекундная пауза лучше, чем пересадка личности.
Безопасно ли вставлять пароли или ключи API в инструменты, подобные ChatGPT?
Нет. Если что-то может разблокировать, этому не место в подсказке — пароли, одноразовые коды, сессионные cookie, SSH-ключи, строки подключения, сид-фразы кошелька или закрытые сертификаты. Модель не может хранить секрет, как друг; текст все равно передается, записывается в лог и может оставаться в истории. Описывайте секрет по типу, используйте заполнители, такие как REDACTED_KEY, меняйте все уже утекшие данные и храните реальные учетные данные в менеджере паролей или хранилище.
Какую личную информацию следует удалить перед тем, как запросить её предоставление?
Персональные данные быстро накапливаются: национальные удостоверения личности, паспортные данные, адреса, номера телефонов, удостоверения сотрудников или студентов, а также полные имена в сочетании с датами рождения или адресами клиник. Модели не нужен реальный почтовый индекс для составления письма — ей нужен тон, неидентифицирующие факты и желаемый результат. Замените имена ролями, обобщите местоположения и удалите уникальные номера, если только вы не тестируете формат на вымышленном примере.
Можно ли вставлять файлы клиента, соглашения о неразглашении или внутренний код в инструмент искусственного интеллекта для потребителей?
Относитесь к чату с клиентами как к удобному продукту, а не как к корпоративному юридическому консультанту. Если вы не стали бы писать это в личном черновике Gmail или говорить в чате такси, не используйте это и в общедоступном чате ИИ — для презентаций клиентам, невыпущенных планов развития, ведомостей заработной платы, конфиденциальных юридических черновиков или внутренних запросов. Опишите документ, вставьте отредактированный фрагмент, попросите использовать структуру, которую вы применяете в автономном режиме, и используйте утвержденный рабочий инструмент, если он у вас есть, при этом сохраняя возможность редактирования по умолчанию.
Как следует обрабатывать информацию о здоровье или финансах в подсказках ИИ?
Задавайте отличные вопросы, не используя исходные данные. Общие объяснения лучше, чем копирование результатов анализов, списков рецептов, страховых полисов, банковских выписок или фотографий карточек, которые к тому же запечатлели кухонный стол. Уберите номера счетов и все, что выглядит как документы, подтверждающие квалификацию. Используйте чат для составления документов и контрольных списков, которые можно взять с собой к специалисту, а не в качестве кабинета врача, бухгалтера или хранилища выписок.
Почему чужие данные и скриншоты представляют особую опасность?
В систему могут попасть не только ваши электронные письма, номера телефонов клиентов, фотографии детей или расшифровки телефонных разговоров: без вашего согласия. Излагайте информацию своими словами, заменяйте имена ролями и никогда не вставляйте идентификационные данные детей для «развлечения». Скриншоты содержат закладки, URL-токены, имена в Slack и открытые вкладки — обрезайте дважды, размывайте идентификаторы или перепечатывайте ошибку вместо того, чтобы загружать паспорта или карты.
Какие более безопасные шаблоны подсказок позволяют получить достоверные ответы от ИИ?
Четко сформулируйте проблему и не усложняйте определение: цель, ограничения, фиктивные входные данные, желаемый результат. Используйте уникальные метки-заполнители, запрашивайте метод, а не полный производственный журнал, разделите задачу так, чтобы вы сами заполняли конфиденциальные данные, и используйте синтетические примеры. Перед вставкой проверьте наличие символов @, длинных случайных строк, похожих на ключи, слишком больших чисел и имен, которые вы бы не стали размещать на слайде. Десять секунд окупятся навсегда.
А что, если я уже вставил что-то неуместное в чат с ИИ?
Прежде всего, прекратите использовать этот секретный пароль — смените пароль, отзовите ключ, аннулируйте сессию. Удалите чат, если это позволяет программа, проверьте воспоминания или файлы проекта, сообщите нужному человеку, если это были рабочие данные, и следите за необычными входами в систему. Если это были чужие данные, очистите их и предупредите при необходимости. Не «заменяйте» утечку дополнительными пояснениями; лишний контекст — это лишний текст.
Как небольшой команде прекратить внедрение учетных данных в ИИ для отладки?
Используйте краткое описание с предварительным удалением секретной информации: опишите секреты по типу, предоставьте фиктивные журналы с ключом REDACTED_KEY и примерами электронных писем, укажите, что было удалено, и попросите указать вероятные причины, а также контрольный список — не «подключайтесь с помощью моего ключа». Добавьте короткое правило для оператора: никаких учетных данных, никаких персональных данных клиентов, никаких неопубликованных данных, удаление по умолчанию — и покажите один хороший очищенный пример. Храните реальные учетные данные в хранилище и применяйте исправления в автономном режиме после того, как модель предложит способ.
Ссылки
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Клод — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Статьи, которые могут вас заинтересовать после этой:
🔗 Лучшие инструменты безопасности на основе ИИ.
Откройте для себя мощные платформы безопасности на основе ИИ, которые обнаруживают и нейтрализуют киберугрозы.
🔗 Почему ИИ иногда выдумывает вещи.
Поймите, почему ИИ галлюцинирует, и узнайте, как снизить риски.
🔗 Как автоматизировать задачи с помощью ИИ:
Внедрите безопасные рабочие процессы автоматизации, добавив человеческий контроль и строгие правила.
🔗 Что такое технология искусственного интеллекта?
Изучите основы искусственного интеллекта и распространенные проблемы его внедрения.