Не раскрывайте все секреты ChatGPT

Случаи передачи конфиденциальной корпоративной информации нейросетям для выполнения рабочих задач становятся все более частыми. Эксперты подчеркивают, что пользователи забывают, что искусственный интеллект неизбежно применяет полученные данные для усовершенствования своей работы, включая секретную информацию. Согласно прессе, компания Samsung обнаружила утечку данных, в результате которой конфиденциальная информация, такая как протоколы совещаний и данные о производственной мощности, попала в ChatGPT.

Насколько глубокой и широкой может быть данная проблема?

Отмечается, что многие сотрудники Samsung доверяли ChatGPT, не учитывая, что этот инструмент также сохраняет и анализирует предоставленные данные для собственного развития. В одном из случаев сотрудник использовал секретные тестовые шаблоны для обнаружения дефектов чипов, а затем их оптимизации. В другом случае сотрудник применил другую нейросеть, Naver Clova, для конвертации аудиозаписи совещания в текст, после чего отправил его в ChatGPT для создания презентации.

Samsung не является единственным в данной ситуации. Исследование компании по кибербезопасности Cyberhaven выявило, что десятки тысяч сотрудников различных компаний передавали конфиденциальную корпоративную информацию чат-боту, разработанному OpenAI, принадлежащей Microsoft.