Vecht niet met pijl en boog tegen AI-agents

Met de overstap van traditionele software naar autonome agents verandert het speelveld voor IT-beveiligers. Agents redeneren zelfstandig en bepalen op basis van doelen welke stappen ze ondernemen. Volgens Gagan Gulati, die sinds juli leidinggeeft aan de beveiligingstak van Salesforce, vraagt deze transitie om een herziening van het beveiligingsmodel. "Elke keer dat er een nieuw werk­paradigma ontstaat, zoals destijds met de cloud, moet je de beveiligings­structuur herzien," legt Gulati uit. "Bij autonome agents is onze rol op twee manieren veranderd. Aan de ene kant moeten we AI beveiligen als een nieuwe IT-asset. Aan de andere kant moeten we organisaties beschermen tegen aanvallen waarin kwaadwillenden AI inzetten."

Het beveiligen van AI begint volgens Gulati bij het afbakenen van toegang en bevoegdheden. Omdat agents zelfstandig handelen binnen het IT-landschap, moeten ze net als medewerkers voorzien worden van een duidelijke identiteit en strikte toegangs­rechten. "Niet-menselijke identiteiten bestaan al tientallen jaren in de vorm van service principals", licht Gulati toe. "Het verschil is dat autonome agents op veel grotere schaal opereren. Sommige agents handelen namens een individuele gebruiker op diens laptop, maar op ondernemingsniveau maken we specifieke identiteiten aan met een exact gedefinieerde rol."

Hierbij geldt volgens Gulati het principe van 'least privilege'. Een agent die vragen afhandelt op een IT-helpdesk krijgt bijvoorbeeld uitsluitend toegang tot de helpdesk-repository. "Zo'n agent heeft geen toegang tot marketingdata of overnamedocumenten", benadrukt hij. "Mocht een agent al proberen uit te breken naar een andere databron, dan weigert dat systeem de toegang omdat de agent-identiteit simpelweg de rechten mist. Het is als een kasteel: wie binnen de muren loopt, moet daar ook strikt binnen blijven."

Naast het beveiligen van de eigen AI-systemen moeten organisaties zich wapenen tegen cybercriminelen die AI op het strijdtoneel brengen. Uit onderzoek van Salesforce blijkt dat 75 procent van de beveiligingstopmensen verwacht dat AI-gestuurde dreigingen traditionele beveiligingsmaatregelen snel zullen inhalen. Gulati herkent die verontrustende trend. "Traditionele verdedigingsmiddelen volstaan niet meer. Als de tegenpartij met een geweer komt aanzetten, kun jij niet aankomen met pijl en boog en een schild. Dan verlies je het gevecht."

Het goede nieuws is dat verdedigers AI eveneens proactief kunnen inzetten. Waar cyberaanvallen vroeger vaak weken of maanden onopgemerkt bleven, maakt AI het mogelijk om verdacht gedrag binnen enkele minuten te detecteren. "Beveiliging moet veel proactiever worden", stelt Gulati. "Door vooraf de juiste guardrails en data-classificatie in te stellen, voorkom je dat aanvallers hun slag slaan."

Om organisaties te ondersteunen heeft Salesforce zijn beveiligingsportfolio getransformeerd onder de naam Salesforce Guardian. Waar beveiliging voorheen vaak passief was – zoals het versleutelen van gegevens – zet Guardian in op actieve bewaking. "Onze taak is niet alleen passief afschermen, maar continu beschermen," zegt Gulati. Salesforce zet daarvoor zelf ook autonome beveiligings-agents in. Zo vat een speciale security agent binnen seconden de context van incidenten samen – werk waar een menselijke analist voorheen dagen tot weken over deed. Een andere ontwikkeling is de 'red team agent', die proactief zoekt naar zwakke plekken door gesimuleerde aanvallen uit te voeren.

Toch benadrukt Gulati dat leveranciers het niet alleen kunnen oplossen. Hij wijst op het zogeheten 'shared responsibility model'. "Salesforce neemt de verantwoordelijkheid voor het beveiligingsfundament op ons platform, maar de klant heeft eveneens cruciale verantwoordelijkheden. Bedrijven kennen hun eigen domein en bedrijfsprocessen het beste. Zij moeten bepalen welke rechten agents krijgen, hoe data-governance is ingericht en hoe MCP-servers worden beveiligd. Pas als beide partijen hun rol pakken, wordt de agentic enterprise echt veilig."

Uiteindelijk draait de succesvolle inzet van autonome AI-agents om vertrouwen, vindt Gulati. IT-beslissers zien de enorme productiviteitswinsten, maar aarzelen soms om agents autonomie te geven uit angst voor ontsporing. "Mijn belangrijkste taak is ervoor zorgen dat onze klanten de stap naar een agentic enterprise kunnen zetten met vertrouwen en zekerheid," antwoordt de topman op de vraag waar zijn grootste uitdaging ligt. "Ik zie het overigens niet per se als een uitdaging, maar als een kans. Wanneer je agents zorgvuldig afbakent, grondig test en voorziet van sterke guardrails, wordt AI een veilige versneller van de organisatie."