French version

Isabelle Amiel, founder of Sienna Venture Capital, is a recognized pioneer in supporting the Israeli tech ecosystem. For over 10 years, she has believed in the transformative power of this innovation nation, becoming the largest European investor in Israeli tech. With more than 50 investments in Israeli companies, Isabelle has combined her strategic expertise with unique leadership, shaping the future of cybersecurity, artificial intelligence, and digital health on a global scale.
‍
Guy-Philippe Goldstein, a professor at the École de Guerre Économique, is a key figure in cybersecurity. His geopolitical analysis and strategic advice are sought at the highest levels. Ranked among the "100 Cybersecurity Talents" by Usine Nouvelle, he brings a unique depth of thought on technological and cyber issues.

Isabelle : Hello Guy-Philippe! At Sienna VC, we have intensified our research in cybersecurity this year. 2025 promises to be a transformative year for this sector. With a global market valued at $200 billion and expected annual growth of 11% over the next five years, the opportunity for investors is immense. How would you describe this new phase of growth in the industry?

Guy-Philippe : You're right, Isabelle. In 2024, we have witnessed a true revolution, particularly with the rise of artificial intelligence. The cybersecurity sector remains one of the most highly valued in tech, with at least three companies now exceeding $50 billion in market capitalization. Companies like Palo Alto Networks, with a market capitalization surpassing $110 billion, dominate the market. But it’s not just the “pure plays”; Microsoft stands out as the largest global provider of cybersecurity services, generating $20 billion in revenue in 2023 and growing at 33% annually in this segment, outpacing even its cloud activities. This highlights the critical importance of cybersecurity for major tech companies.

Isabelle : Artificial intelligence is everywhere, and it’s truly a double-edged sword. What do you see as the risks it brings to cybersecurity, and how can it paradoxically strengthen it?
‍
Guy-Philippe : AI indeed introduces new security problems. Its ease of use, particularly with generative AI like chatbots, can lead to unintentional data leaks if employees lack clear rules. Furthermore, the ability to generate code using AI could multiply attack surfaces. The problem is that cybersecurity governance for AI is not yet well-defined, and the unauthorized use of these technologies within companies, known as "Shadow AI," often escapes the control of security teams. According to Microsoft, nearly 80% of employees using AI at work actually employ their own generative AI tools, such as ChatGPT, without ever mentioning it to their employer.

AI, especially generative AI, also presents new technical cybersecurity challenges. Direct or indirect prompt injections (where prompts are invisible or not explicit to the user) can force disclosure of information or embed malicious behavior into AI systems. For example, you can ask the system to reveal certain critical data that may have been included in the training dataset by appealing to its empathy. Or you can leave instructions written in white characters on a white background – for example, on a resume, to improve its evaluation by an AI system but remain invisible to HR. Some emergent behaviors may even be difficult to detect, or escape investigation simply based on the static analysis of the code or data used: only “Red Team” tests, where real attacks are simulated to evaluate system vulnerabilities, could identify these flaws. However, the art of conducting such tests on AI systems is not yet mature: many procedures still need to be invented.

Paradoxically, AI can also become a major asset for strengthening cybersecurity. By automating critical operations, it can reduce the costs of data breach incidents by 30% to 45%. The key benefits include faster threat detection, accelerated response and remediation, and better vulnerability management. Investments in AI-based cybersecurity are expected to grow by 20% to 28% per year over the next ten years, twice as fast as the rest of the market.

“More than 350 million users on ChatGPT in August 2024, including 150,000 business customers, increase the risk of security breaches”

This massive adoption extends to both giants and startups: more than 350 million users were on ChatGPT in August 2024, including 150,000 professional clients, increasing the risks of security breaches. In 2023, 61% of employees in the United States, the United Kingdom, and Australia were already using generative AI tools, and 92% of Fortune 500 companies have also adopted them. The acceleration is striking: at Y Combinator, 50% to 70% of recent startups now integrate AI, compared to only 1% ten years ago.

Isabelle : At Sienna VC, we are deeply immersed in the Israeli ecosystem, where cybersecurity continues to dominate the market. Representing more than half of the fundraising and 35% of exits in 2024, Israel remains at the center of attention. Fundraises like Wiz's $1 billion and Cyera’s $300 million confirm this trend. How do you explain Israel's ability to maintain this global leadership in cybersecurity? What, in your view, allows this ecosystem to stay at the forefront despite the challenges?

Guy-Philippe : Israel made strategic choices as early as the 2010s by focusing on cybersecurity as a pillar of its technological development. Three factors explain this success: first, a talent pool from military units with practical experience in defense issues. Second, the ability to anticipate new trends, such as cloud cybersecurity. Finally, Israel remains open to foreign investment while keeping the core of R&D on its soil. This can be seen in companies like Imperva, acquired by Thales, but still maintaining its research centers in Israel.

The wisest foreign players have taken advantage of falling valuations to consolidate their positions in Israel. The same strategy applies to the cybersecurity of AI systems. In Israel, these two sectors are often supported by the same military units and state players, fostering the emergence of particularly innovative startups at this intersection.

Isabelle : I never tire of these observations and continue to be fascinated! And in terms of new Israeli startups, some like Cyera and Gomboc.AI are redefining how companies manage their data security. Israel always seems to be ahead when it comes to securing emerging technologies like AI while also addressing the problems posed by AI itself with companies like Lasso, Legit, Hirundo.io, and Knostic.
‍

This discussion highlights the complex and exciting dynamics of the cybersecurity sector in 2024, where artificial intelligence and Israeli innovation play a leading role. As threats evolve, the ability to adapt quickly is more crucial than ever, and collaboration between large companies and startups remains the key to a secure future.

English version

Isabelle Amiel, fondatrice de Sienna Venture Capital, est une pionnière reconnue dans le soutien à l’écosystème technologique israélien. Depuis plus de 10 ans, elle a cru en la puissance transformative de cette nation d'innovation, devenant ainsi la plus grande investisseuse européenne dans la tech israélienne. Avec plus de 50 investissements dans des sociétés israéliennes, Isabelle a su allier son expertise stratégique à un leadership unique, façonnant l’avenir de la cybersécurité, de l’intelligence artificielle et de la santé numérique à l’échelle mondiale.
‍
Guy-Philippe Goldstein, enseignant à l'Ecole de Guerre Economique, est une figure incontournable de la cybersécurité. Son analyse géopolitique et ses conseils stratégiques sont recherchés au plus haut niveau. Classé parmi les '100 talents de la cybersécurité' par l'Usine Nouvelle, il apporte une profondeur de réflexion unique sur les enjeux technologiques et cyber.

Isabelle : Bonjour Guy-Philippe ! Chez Sienna VC, nous avons intensifié nos recherches dans la cybersécurité cette année. 2024 s’annonce comme une année de transformation majeure pour ce secteur. Avec un marché global valorisé à 200 milliards de dollars et une croissance annuelle attendue de 11% sur les cinq prochaines années, l’opportunité pour les investisseurs est immense. Comment décrirais-tu cette nouvelle phase de croissance dans l’industrie ?

Guy-Philippe : Tu as raison, Isabelle. En 2024, nous assistons à une véritable révolution, notamment avec l’essor de l’intelligence artificielle. Le secteur de la cybersécurité reste un des mieux valorisés dans la tech avec au moins 3 entreprises qui dépassent désormais les 50 milliards de capitalisation boursière. Des entreprises comme Palo Alto Networks, avec une capitalisation boursière dépassant les 110 milliards de dollars, dominent le marché. Mais il n’y pas que les «pure play», Microsoft se distingue comme le plus grand fournisseur mondial de services de cybersécurité, avec 20 milliards de revenus en 2023 et une croissance de 33 % par an dans ce segment, surpassant même ses activités Cloud. Cela témoigne de l'importance cruciale de la cybersécurité pour les grandes entreprises tech.

Isabelle : L’intelligence artificielle est partout, et c’est une véritable épée à double tranchant. Quels sont, selon toi, les risques qu’elle apporte à la cybersécurité, et comment peut-elle, paradoxalement, la renforcer?
‍
Guy-Philippe : L’IA génère effectivement de nouveaux problèmes de sécurité. Sa facilité d’utilisation, notamment avec les IA génératives comme les chatbots, peut mener à des fuites de données involontaires si les employés n’ont pas de règles claires. De plus, la capacité à générer du code grâce à l’IA pourrait multiplier les surfaces d’attaque. Le problème, c’est que la gouvernance de la cybersécurité des IA n’est pas encore bien définie, et l’usage non autorisé par l'entreprise de ces technologies, ce qu’on appelle le "Shadow AI" (1), échappe souvent au contrôle des équipes de sécurité. Selon Microsoft, c’est presque 4/5^e des employés affirmant utiliser l’IA au travail qui en fait emploieraient leurs propres outils d’IA générative comme ChatGPT, sans jamais l’évoquer à leur employeur.

L’IA, et en particulier l’IA générative, présente également des nouveaux problèmes de cybersécurité d’ordre technique. Les injections par invites (ou prompts) directes, ou indirectes (lorsque les invites sont invisibles, ou non-explicites pour l’utilisateur), peuvent forcer à la divulgation des informations ou encore imprimer des comportements malicieux aux systèmes d’IA. On peut par exemple demander au système de révéler certaines données critiques qui ont pu être ingérés dans le jeu de données d’entrainement en sollicitant son empathie. Ou encore on peut laisser des instructions écrites en caractère blanc sur fond blanc - par exemple sur un CV au recrutement afin d’améliorer son appréciation grâce à des commentaires élogieux invisibles au cadre des RH, mais pas au système d’IA. Certains comportements émergents pourraient d’ailleurs être difficilement détectables, voir échapper à toute investigation juste sur la base de l’étude statique du code ou des données utilisées : seuls les tests de type "RedTeam" (2), lorsque l’on simule des attaques réelles pour évaluer les vulnérabilités d’un système une fois constitué, pourraient permettre d’identifier ces failles. Or, l’art de mener ces tests de type « red team » sur les systèmes d’IA n’est pas encore mature : de nombreuses procédures sont encore à inventer. Disposer des bibliothèques des meilleures attaques, reproduire des pans entiers de systèmes d’IA pour y tester ces attaques, imaginer les manières d’échanger sur ces tests entre partenaires ainsi que depouvoir certifier les systèmes d’IA… tout un ensemble d’offres de marché reste encore à inventer !

Paradoxalement, l'IA peut aussi devenir un atout majeur pour renforcer la cybersécurité. En automatisant des opérations critiques, elle permet de réduire les coûts des incidents liés aux fuites de données de 30 % à 45 %. Les bénéfices clés incluent une détection plus rapide des menaces, des réponses et remédiations accélérées, ainsi qu’une meilleure gestion des vulnérabilités. Les investissements dans la cybersécurité basée sur l'IA devraient croître de 20% à 28% par an au cours des dix prochaines années, soit deux fois plus vite que l’ensemble du marché.

"Plus de 350 millions d’utilisateurs sur ChatGPT en août 2024, dont 150 000 clients professionnels, augmentent les risques de brèches de sécurité"

Cette adoption massive s'étend aussi bien aux géants qu'aux startups : plus de 350 millions d’utilisateurs sur ChatGPT en août 2024, dont 150 000 clients professionnels, augmentent les risques de brèches de sécurité.

En 2023, 61% des employés aux États-Unis, au Royaume-Uni et en Australie utilisaient déjà des outils d’IA générative, et 92% des entreprises du Fortune 500 s’y sont également mises. L’accélération est frappante : chez Y Combinator, 50% à 70% des startups récentes intègrent désormais l’IA, contre seulement 1% il y a 10 ans. 

Isabelle : Chez Sienna VC, nous sommes pleinement immergés dans l’écosystème israélien, où la cybersécurité continue de dominer le marché. Représentant plus de la moitié des levées de fonds et 35% des exits en 2024, Israël reste au centre de l’attention. Des levées comme celles de Wiz à 1 milliard de dollars et de Cyera à 300 millions confirment cette tendance. Comment expliques-tu la capacité d’Israël à maintenir ce leadership mondial en cybersécurité ? Qu’est-ce qui selon toi permet à cet écosystème de rester à la pointe malgré les défis ?

Guy-Philippe : Israël a su faire des choix stratégiques dès le début des années 2010 en misant sur la cybersécurité comme pilier de son développement technologique. Trois facteurs expliquent ce succès: premièrement, un vivier de talents issus des unités militaires qui ont une expérience pratique des problématiques de défense. Deuxièmement, une capacité à anticiper les nouvelles tendances, comme la cybersécurité du cloud. Enfin, Israël reste ouvert aux investissements étrangers tout en gardant le cœur de la R&D sur son sol. Cela se voit dans des entreprises comme Imperva, rachetée par Thalès, mais qui maintient ses centres de recherche en Israël.

Les acteurs étrangers les plus avisés ont profité de la baisse des valorisations pour consolider leurs positions en Israël. La même stratégie s’applique à la cybersécurité des systèmes d'IA. En Israël, ces deux secteurs sont souvent soutenus par les mêmes unités militaires et acteurs étatiques, favorisant l’émergence de startups particulièrement innovantes à cette intersection.

Isabelle : Je ne me lasse pas de ces observations et suis toujours autant fascinée ! Et en matière de nouvelles startups israéliennes, certaines d’entre elles, comme Cyera et Gomboc.AI, redéfinissent la manière dont les entreprises gèrent la sécurité de leurs données. Israël semble être toujours en avance lorsqu’il s'agit de sécuriser les technologies émergentes comme l’IA en adressant également les problèmes posés par l’IA elle-même comme Lasso, Legit, Hirund.Io ou encore Knostic ?
‍

Cet échange met en lumière les dynamiques complexes et passionnantes du secteur de la cybersécurité en 2024, où l’intelligence artificielle et l’innovation israélienne jouent un rôle prépondérant. À l’heure où les menaces évoluent, la capacité à s’adapter rapidement est plus cruciale que jamais, et la collaboration entre grandes entreprises et startups reste la clé d’un avenir sécurisé.