Coinbase-х недавнее раскрытие читается как фильм об ограблении, ставший предостерегающей историей: киберпреступники подкупили зарубежных подрядчиков по поддержке клиентов, получили доступ к панелям управления поддержкой и ушли с достаточным количеством персональных данных, чтобы угрожать почти 70,000 180 пользователей. Хотя криптовалютная биржа сейчас оценивает расходы на исправление и возмещение в диапазоне от 400 до XNUMX миллионов долларов, эта цифра не учитывает долгосрочную эрозию доверия.
«Большинство агентов поддержки просто пытаются выполнять свою работу, но нынешняя модель ставит их в невыносимое положение», — говорит Дев Наг, основатель и генеральный директор QueryPal«Когда сотням людей, включая подрядчиков, требуется доступ к критически важным данным, чтобы помочь клиентам, вы создаете возможности для злоумышленников».
Инцидент болезненно ясно показывает один момент: внутренние угрозы — это не второстепенный сценарий. Это встроено в любую модель, которая полагается на большие человеческие группы поддержки, круглосуточно обрабатывающие конфиденциальные данные. Самостоятельно размещенные, управляемые ИИ уровни поддержки могли бы превратить эти разводные мосты в укрепленные ворота — закрытые по умолчанию, открываемые только тогда, когда это позволяет политика аудита.
Внутренняя работа: когда агенты поддержки становятся вашим самым слабым звеном
Coinbase не одинока. Почти каждая компания, ориентированная на цифровые технологии, передает на аутсорсинг хотя бы часть обслуживания клиентов, создавая тысячи учетных данных для входа, разбросанных по всем континентам. Каждая учетная запись — это разменная монета для злоумышленников, которые теперь используют рекрутеров, а не фишеров, чтобы скомпрометировать организации.
Традиционные меры смягчения, такие как проверка биографических данных, ротация учетных данных и мониторинг в нерабочее время, лечат симптомы, а не болезнь. Масштаб увеличивает риск. Удвоение численности персонала не удваивает вашу подверженность, а вместо этого умножает количество связей, которые может использовать противник.
Кибербезопасность Инсайдеры Отчет об инсайдерских угрозах за 2024 год рисует мрачную картину. За последний год 83 процента компаний пострадали как минимум от одного нарушения со стороны внутренних лиц, и число серийных нарушителей множится. Количество организаций, которые пострадали от 11 до 20 раз, взлетело с 4 процентов в 2023 году до 21 процента в этом году, что представляет собой пятикратный скачок.
«Ручная поддержка масштабируется как движение на шоссе», — говорит Наг, прямолинейно формулируя это. «Каждая новая полоса в конечном итоге забивается. Напротив, поддержка с использованием ИИ — это высокоскоростная железнодорожная линия, которая перемещает большую часть билетов, не подвергая опасности груз».
Автоматизация рутинных запросов, таких как сброс пароля, проверки KYC и вопросы баланса с помощью самообслуживаемой модели большого языка (LLM), означает, что конфиденциальные поля — SSN, балансы, адреса кошельков — никогда не появляются на экране агента. Люди по-прежнему обрабатывают сложные пограничные случаи, но они делают это через уровень абстракции, запрашивая токены just-in-time для минимально необходимых данных. Следовательно, горшок золота инсайдера исчезает.
Почему самостоятельный хостинг сокращает поверхность атаки
Облачные платформы ИИ ускоряют развертывание, но передают ваши самые важные данные третьим лицам. Если провайдер взломан или юридически обязан предоставить журналы, ваши пользователи платят цену. Модель с самостоятельным размещением сохраняет вложения, журналы подсказок и трафик вывода внутри вашего периметра безопасности, подчиняясь тем же оповещениям SIEM и политикам нулевого доверия, которые управляют вашим основным стеком.
QueryPal делает ставку на то, что рынок хочет именно этого. «Мы единственный крупный поставщик, предлагающий полностью самостоятельный стек поддержки ИИ, вплоть до локальных агентских приложений», — говорит Наг. «Ваши данные никогда не покидают ваших стен, а наши модели наследуют любые меры контроля соответствия, которые вы уже применяете — SOC 2, ISO 27001, как хотите».
Помимо локальности данных, самостоятельный хостинг позволяет службам безопасности устанавливать индивидуальные защитные барьеры, в том числе:
- Редактирование на уровне полей в ответах модели для автоматического сокрытия персональных данных.
- Окна контекста на основе ролей позволяют ИИ отвечать, не раскрывая чрезмерно историю транзакций.
- Ведение журнала аудиторского уровня, данные которого напрямую поступают в существующие каналы обнаружения угроз.
Поскольку LLM работает на серверах, которые вы контролируете — bare metal, private cloud или Kubernetes — команда DevSecOps может исправить, переобучить или даже отключить систему при появлении уязвимости нулевого дня. Сторонние SaaS редко предлагают такой вариант.
Опыт и безопасность могут сосуществовать, если ИИ находится за вашим брандмауэром
Хотя некоторые критики все еще могут утверждать, что более жесткий контроль означает более медленное обслуживание, фиаско Coinbase показывает реальный компромисс: скорость без безопасности — это иллюзия. Современные самостоятельные модели (представьте себе класс с 7 миллиардами параметров) могут обрабатывать тысячи одновременных чатов с задержкой менее секунды — не требуется интернет-хоп.
В пилотных проектах, которые QueryPal запустил для банка среднего уровня, ИИ самостоятельно разрешил 68 процентов тикетов первого уровня, сократив среднее время обработки на 40 процентов. Что еще важнее, он сократил раскрытие человеческих данных на 90 процентов, согласно собственному аудиту конфиденциальности банка.
Клиенты не замечают изменений, за исключением того, что исчезают очереди. Аналогично, агенты замечают, что им больше не нужно открывать 10 панелей мониторинга конфиденциальных данных, а специалисты по соблюдению нормативных требований замечают меньше бессонных ночей. Безопасность и опыт — это не игра с нулевой суммой; они взаимно усиливают друг друга, когда ИИ живет в вашей инфраструктуре.
От разводных мостов до цифровых хранилищ
Прозрачность Coinbase — вознаграждение в размере 20 миллионов долларов, публичное вскрытие — заслуживает похвалы, но подушки безопасности не являются заменой предотвращения столкновений. Утечка показывает, что риск инсайдеров вырос от фишинговых курьезов до организованного корпоративного шпионажа. Самое дешевое и масштабируемое решение — убрать стимул, заперев данные в автоматизированном хранилище, которое люди открывают только тогда, когда система говорит, что они должны это сделать.
Самостоятельная поддержка ИИ обеспечивает это хранилище. Он минимизирует человеческие точки соприкосновения, внедряет экспертные знания в модели и позволяет предприятиям применять ту же строгость нулевого доверия к обслуживанию клиентов, которую они уже применяют к платежным рельсам.
Если бы Coinbase развернула такой слой, ее агенты поддержки все равно могли бы помогать пользователям, но взяточный бюджет преступников ничего бы им не дал. Урок в 400 миллионов долларов суров. Решение доступно. Предприятиям просто нужно решить, хотят ли они замок, усеянный подъемными мостами, или крепость, спроектированную для ландшафта угроз 21-го века.
«Гибридная поддержка человека и искусственного интеллекта не заключается в замене людей», — подчеркивает Наг. «Речь идет об интеллектуальном перераспределении доверия. Когда рутина автоматизирована и размещена самостоятельно, люди наконец-то могут сосредоточиться на важных проблемах — и злоумышленникам некуда будет стучаться».
