CIO планирует расширить команду, создав цифровые клоны персонала

CIO UC San Diego хочет использовать AI агентов и цифровых двойников для автоматизации IT-работ, улучшения кибербезопасности и облегчения нагрузки на персонал.

На этой неделе, во время конференции Cisco Live, доктор Винс Келлен предложил использовать агентов искусственного интеллекта и цифровых двойников опытных сотрудников ИТ-отдела для выполнения рутинных задач и решения ночных чрезвычайных ситуаций. Об этом впервые сообщило издание The Register.

Обращаясь к переполненному залу, Келлен заявила: «Все дороги ведут к высоким уровням автоматизации, когда это возможно», сообщает The Register.

Университет функционирует как небольшой город, поскольку каждый день он принимает более 100 000 человек, в то время как ему приходится сталкиваться с сокращением числа студентов и ограниченными финансовыми ресурсами

Келлен предсказывает, что системы ИИ в будущем будут извлекать знания у технических работников для управления растущими требованиями. «У нас есть все эти знания в людях о политике сети, которые мы должны извлекать из их умов способом, напоминающим капельное орошение», — сказал он, как сообщает The Register.

Келлен считает, что медленная передача этих знаний ИИ позволила бы IT-командам снизить свою рабочую нагрузку и улучшить работу сети.

Институт океанографии при UCSD также сталкивается с угрозами национальной безопасности. «Когда вы опускаете сонар в воду, вы обнаруживаете больше, чем просто рыбу, и другие страны хотят знать об этом», — предупреждал он, как сообщает The Register.

Кибератаки с поддержкой иностранных государств становятся все более сложными, что требует от сотрудников автоматизации базовых оборонительных мер, чтобы они могли сосредоточиться на более опасных угрозах.

Келлен уверен, что ИИ «имеет потенциал для прогностического обнаружения проблем» и видит цифровые клонов как способ сохранить опыт сотрудников, снижая при этом их нагрузку. «Тогда этот человек не будет мучиться, когда произойдет очередной инцидент. Его не вызовут в следующий раз», — добавил он, как сообщает The Register.

Его идея поднимает провокационный вопрос: позволили бы вы вашему работодателю цифрово клонировать ваш опыт, если бы это означало меньшее количество стрессовых вызовов? По мере развития автоматизации граница между работой человека и машины может стать менее четкой, но для IT команд это может означать долгожданное облегчение.

Однако увеличение автоматизации также вызывает озабоченность в области кибербезопасности. Системы, управляемые автоматизированными IT-специалистами и AI-агентами, представляют собой привлекательные цели для хакеров, поскольку атака на эти системы может привести к масштабным сбоям.

В самом деле, скомпрометированный цифровой двойник может быть использован для обхода протоколов безопасности и распространения вредоносного программного обеспечения с большей скоростью, чем это могут сделать человеческие операторы.

Отчёт Всемирного экономического форума утверждает, что злоумышленники могут загрязнить обучающие данные искусственного интеллекта или обнаружить уязвимости в моделях AI, что приводит к сбоям системы или генерации некорректного вывода.

Такие атаки, известные как «отравление данных» и эксплуатация моделей, часто легко осуществляются, но сложно противостоять им, поскольку текущие меры безопасности недостаточны, как отмечает ITPro.

Несмотря на эти риски, 96% IT-специалистов признают AI-агентов угрозой безопасности, тем не менее большинство организаций спешат внедрять их без должного контроля или политики, как сообщает ZDNet.