企业中的AI:为何首席信息安全官无法再独自承担风险

IA en entreprise : pourquoi les RSSI ne peuvent plus porter seuls le risque

Silicon.fr by Bruno Durand * 2026-06-04 10:46 Original
摘要
人工智能在企业的高速普及,使首席信息安全官(CISO)的传统技术防护角色难再单独承担其衍生风险,治理责任需由业务、法务、人事等多部门集体分担。南欧Sophos副总裁Bruno Durand指出,CISO正转型为数字信任协调者,而“影子AI”和非人类身份激增正迫使企业建立跨职能的清晰治理框架,否则将加剧数据泄露与合规隐患。

人工智能(AI)在企业中的普及速度远超组织治理能力的跟进。对话助手、文档自动化、预测分析和各类业务副驾驶正在所有行业广泛落地,而CISO(首席信息安全官)被推到前台,承担起越来越多的期待与责任。然而,AI带来的变革早已超出单纯的网络安全范畴——它正在重塑数据流转、决策机制和使用方式,使CISO独自应对AI风险变得不再现实。

传统的CISO职责聚焦于保护基础设施、访问管控和敏感数据,防范网络攻击和技术风险。但生成式AI的兴起彻底改变了局面。AI不仅引入新型网络威胁,还加速数据流动,甚至改变企业内部的决策机制。其中,数字身份这一现代网络安全基石受到强烈冲击:用户账号、云访问权限、API、自动化助手以及AI代理等非人类身份数量激增,身份已成为首要攻击面。很多安全团队在权限创建和管理上早已跟不上节奏,而大量出现的非人类身份进一步打破了使用速度与治理能力之间的平衡。CISO的角色由此从技术专家转变为数字信任的协调者——需要评估AI风险、防范数据泄露、监督内部使用,并支持日益严苛的欧洲法规合规。

然而,许多企业仍将AI当作纯技术或网络问题对待,这正是矛盾所在。AI本质上是全局性的组织转型,其治理必须由业务部门、法务、人力资源、合规、IT乃至最高管理层共同参与,涉及数据保密、知识产权、自动化决策的责任、伦理和企业声誉等议题。CISO不可能单枪匹马定义可接受的使用方式、裁量自动化带来的组织影响,或独自背负所有新出台的合规义务。

治理缺失已催生“影子AI”现象:员工为了立即提升效率,未经内部审批使用AI工具,有时甚至处理敏感数据。这些行为大多并非恶意,却暴露出技术采用速度与组织管控成熟度之间的巨大鸿沟。全面禁止AI工具既不现实,也可能迫使应用转入地下。正确的做法是建立清晰政策、加强员工意识、对可用的数据进行分类,并将治理责任分摊到企业各职能中,从而将重点从“封堵”转向“有序组织”。

AI正在深层次重塑安全职能。CISO的使命不再只是保护信息系统,更要为数字信任和跨部门对话(业务、法务、人力、战略等)贡献力量。这意味着一套集体化的AI治理体系势在必行,因为AI的风险远超网络安全边界,它改变的更是企业的生产、协作与决策模式。

(本文作者Bruno Durand为Sophos南欧区副总裁)

Summary
French cybersecurity firm Sophos, through VP Bruno Durand, warns that the surge of AI in business—including generative tools and automated agents—is creating unmanageable risk if left solely to CISOs, as it transforms decision-making, data flows, and multiplies non-human identities. The article stresses that AI governance must become a shared responsibility across legal, HR, compliance, and business units to combat "shadow AI" and meet evolving regulations, redefining the CISO’s role from technical protector to coordinator of digital trust.

The rapid adoption of artificial intelligence across enterprises—from conversational assistants and document automation to predictive analytics and business copilots—has outpaced organizations’ ability to govern it effectively. The critical question is no longer whether to use AI, but how to secure, integrate, and oversee it, placing the Chief Information Security Officer (CISO) at the center of expectations. Yet the transformation goes far beyond cybersecurity, making it unrealistic for CISOs to shoulder AI risk alone.

Historically, the CISO’s role was to protect infrastructure, access, and sensitive data, focusing on technical risks and cyberattacks. With generative AI, the challenge expands dramatically: AI reshapes usage patterns, accelerates data flows, and even alters internal decision-making. This evolution also disrupts a key cybersecurity pillar—digital identity. Now the primary attack surface, identities multiply through user accounts, cloud access, APIs, and AI agents. The explosion of non-human identities (bots, automated systems) gaining sensitive access at an uncontrollable pace creates a dangerous imbalance between adoption speed and governance capacity.

The CISO is now expected to be more than a technical expert: a coordinator of digital trust, evaluating AI risks, preventing data leaks, supervising internal use, and ensuring regulatory compliance, particularly with new European requirements.

The paradox is that companies still often treat AI as a pure technology or cyber issue, when it is a holistic organizational transformation. Effective governance touches business lines, legal, HR, compliance, IT, and leadership—encompassing data confidentiality, intellectual property, automated decision liability, ethics, and reputation. No CISO can single-handedly define acceptable use, weigh the organizational impact of automation, or bear the full burden of emerging regulations. The lack of clear, shared governance is already fueling “shadow AI”: employees unofficially using AI tools, sometimes with sensitive data, for immediate productivity boosts. These actions are rarely malicious but highlight a widening gap between adoption speed and organizational maturity.

Banning AI tools is unrealistic—it only drives usage underground. Instead, companies must establish clear policies, educate employees, classify data, and distribute governance responsibilities across all functions. AI is fundamentally transforming the security function itself. The CISO must now go beyond protecting systems to fostering digital trust and enabling dialogue among business, legal, HR, and strategic departments. Because AI’s risks extend far beyond the cyber perimeter, only collective governance can effectively address its impact on production, collaboration, and decision-making.

Résumé
L’adoption massive de l’IA en entreprise, souvent plus rapide que son encadrement, rend impossible pour les RSSI d’en porter seuls les risques, notamment face au « shadow AI » et à la multiplication des identités non humaines. Bruno Durand, vice-président Europe du Sud chez Sophos, appelle à une gouvernance collective associant directions métiers, juridiques, RH et conformité. Cette transformation redéfinit le rôle du RSSI, désormais coordinateur de la confiance numérique, pour sécuriser les usages sans bloquer l’innovation.

L’intelligence artificielle s’est imposée dans les entreprises à une vitesse sans commune mesure. Assistants conversationnels, automatisation documentaire, analyse prédictive et copilotes métiers se généralisent dans tous les secteurs, souvent plus vite que les capacités d’encadrement des organisations.

Dans ce contexte, la question n’est plus de savoir si l’IA sera utilisée, mais comment elle sera gouvernée, sécurisée et intégrée aux processus internes. Le RSSI se retrouve ainsi au centre des attentes et des responsabilités.

Pourtant, l’essor de l’IA dépasse largement le seul cadre de la cybersécurité. En transformant les usages, les modes de décision et la circulation des données, il rend de moins en moins réaliste l’idée que les RSSI puissent porter seuls les risques liés à l’IA.

Une transformation des risques qui redéfinit le rôle du RSSI

Historiquement, le rôle du Responsable de la Sécurité des Systèmes d’Information consistait à protéger les infrastructures, les accès et les données sensibles. Son périmètre était clairement identifié autour de la prévention des cyberattaques et de la maîtrise des risques techniques.

Mais avec l’essor de l’IA générative, le sujet change de dimension. L’intelligence artificielle ne crée pas seulement un nouveau risque cyber. Elle modifie les usages, accélère les flux de données et transforme parfois même les mécanismes de décision au sein des entreprises.

Cette évolution bouleverse également un pilier majeur de la cybersécurité moderne à savoir l’identité numérique. Aujourd’hui, l’identité est devenue la principale surface d’attaque des organisations. Comptes utilisateurs, accès cloud, API, assistants automatisés et agents IA multiplient les points d’entrée potentiels. Dans de nombreuses entreprises, les équipes sécurité peinent déjà à suivre le rythme de création et de gestion des privilèges.

Le phénomène est encore renforcé par l’apparition massive des identités non humaines. Les agents IA, bots et systèmes automatisés obtiennent des accès à des ressources sensibles à une cadence que les équipes de sécurité ne parviennent plus toujours à contrôler efficacement. Cette multiplication des identités techniques crée un nouveau déséquilibre entre la vitesse d’adoption des usages et la capacité réelle des organisations à les gouverner.

Le RSSI devient ainsi bien plus qu’un expert technique. Il est désormais attendu comme un coordinateur de la confiance numérique capable d’évaluer les risques liés à l’IA, de prévenir les fuites de données, de superviser les usages internes et de contribuer à la conformité réglementaire notamment dans le cadre des nouvelles exigences européennes.

Une gouvernance de l’IA qui doit devenir collective

Le principal paradoxe est que les entreprises continuent souvent de traiter l’IA comme un simple sujet technologique ou cyber alors qu’il s’agit avant tout d’une transformation globale de l’organisation.

La gouvernance de l’IA concerne autant les directions métiers que les fonctions juridiques, les ressources humaines, la conformité, la DSI ou encore les instances dirigeantes. Les enjeux touchent à la confidentialité des données, à la propriété intellectuelle, à la responsabilité des décisions automatisées mais aussi à l’éthique et à la réputation des entreprises.

Dans ce contexte, le RSSI ne peut plus être considéré comme l’unique rempart face aux risques liés à l’IA. Aucun responsable sécurité ne peut à lui seul définir les usages acceptables , arbitrer les impacts organisationnels de l’automatisation ou porter l’ensemble des obligations réglementaires qui émergent aujourd’hui.

Cette absence de gouvernance claire favorise déjà l’émergence d’un phénomène comparable au shadow IT que beaucoup qualifient désormais de « shadow AI ». Des collaborateurs utilisent des outils d’IA sans validation interne et parfois avec des données sensibles dans une logique de gain de productivité immédiat. Ces usages sont rarement malveillants, mais ils révèlent un écart croissant entre la rapidité d’adoption des technologies et la maturité des organisations pour les encadrer.

Interdire les outils d’IA serait illusoire. Les entreprises qui choisiraient une approche uniquement restrictive prendraient le risque de voir les usages se déplacer hors de tout cadre officiel. L’enjeu n’est donc plus de bloquer mais d’organiser. Cela suppose de mettre en place des politiques claires, de sensibiliser les collaborateurs, de classifier les données exploitables et surtout de partager la responsabilité de la gouvernance entre l’ensemble des fonctions de l’entreprise.

L’arrivée de l’intelligence artificielle est en train de transformer en profondeur la fonction sécurité. Le RSSI ne doit plus seulement protéger le système d’information, mais contribuer à la confiance numérique et au dialogue entre les directions métiers, juridiques, RH et stratégiques.

Cette évolution suppose une gouvernance collective de l’IA, car ses risques dépassent largement le seul périmètre cyber. Plus qu’une technologie à sécuriser, l’IA transforme les modes de production, de collaboration et de décision des entreprises.

*Bruno Durand est Vice-président Europe du Sud chez Sophos

The post IA en entreprise : pourquoi les RSSI ne peuvent plus porter seuls le risque appeared first on Silicon.fr.

AI Insight
Core Point

Enterprise AI adoption has outpaced governance, making it unsustainable for CISOs alone to manage AI risks; responsibility must shift to a collective, cross-functional model.

Key Players
  • Sophos — global cybersecurity firm (HQ: Abingdon, UK); the author is its VP Southern Europe.
Industry Impact
  • ICT: High — AI expands attack surfaces (shadow AI, non-human identities) and forces a redefinition of the CISO’s role from technical guardian to trust coordinator.
  • Computing/AI: High — Uncontrolled AI usage transforms decision processes, demands shared governance across legal, HR, compliance, and business units.
Tracking

Monitor — Signals a structural shift in enterprise AI risk governance that will influence security leadership roles and compliance frameworks over time.

Related Companies
neutral
Sophos
mature
positive
Categories
人工智能 软件 网络安全
AI Processing
2026-06-04 12:33
deepseek / deepseek-v4-pro