Salesforce presenteert whitepaper na workshops met 21 organisaties
Salesforce publiceerde een whitepaper over vertrouwen in multi-agentsystemen, gebaseerd op workshops met specialisten van 21 organisaties. Het stuk bevat aanbevelingen voor veiligheid en samenwerking tussen zelfstandig werkende AI-agenten.
Wat er gebeurde
Volgens het bedrijf bracht Salesforce ingenieurs, onderzoekers, veiligheidsspecialisten en ethici van 21 organisaties uit bedrijfsleven, wetenschap en non-profitorganisaties samen voor een reeks workshops over vertrouwen in de multi-agenttoekomst. Die gesprekken vormden de basis voor een nieuw whitepaper, dat belangrijke aanbevelingen beschreef voor het omgaan met die multi-agenttoekomst.
Open samenwerking tussen agenten vergroot nut en risico
De overgang van afzonderlijke grote taalmodellen naar koppelbare multi-agentsystemen beloofde volgens het bedrijf een revolutionaire productiviteitssprong. Autonome AI kon daarmee onderhandelen, handelen en samenwerken over bedrijfsgrenzen heen. Ook agenten van externe leveranciers en partners kregen toegang tot data en voerden taken uit op het platform.
Daarmee ging het om meer dan een technische verbetering, omdat de waarde zat in samenwerking tussen systemen van verschillende aanbieders. Tegelijk maakte juist die open toegang de inrichting van het platform en de controle op taken belangrijker.
Vaste bedrijfsgrens verdween door werkende agenten overal
Multi-agentsystemen vereisten volgens het bedrijf een fundamentele verandering in de architectuur van bedrijven en een nieuwe manier van denken over beveiliging. Traditioneel werkte bedrijfsbeveiliging als een kasteel met een gracht, met een duidelijke grens tussen intern en extern. In de wereld van zelfstandig werkende agenten vervaagde die grens, omdat agenten van diverse platforms in verschillende ecosystemen data integreerden en taken uitvoerden over organisaties heen, terwijl ook de dreigingen veranderden.
Beleggers letten op controle per interactie als fundament
Een kwaadaardige opdracht kon verborgen blijven in de kennisbank of eerdere procedures van een agent, om vervolgens ongemerkt te worden uitgevoerd, geautomatiseerd, versterkt en mogelijk afkomstig van binnenuit het eigen systeem. Dit interne en alomtegenwoordige karakter van dreigingen maakte Zero Trust, het principe waarbij elke interactie expliciet en doorlopend wordt gecontroleerd, niet alleen een goede praktijk maar de basis voor verantwoorde vernieuwing. Het whitepaper werkte de aanbevelingen daarvoor verder uit voor de multi-agenttoekomst.
