Ene AI-bot tegen de andere: is dat uw beste bod?

Dit is een vertaling van AI Agents Are Taking Over Contract Negotiations – IEEE Spectrum

Dat deze geavanceerde AI-systemen zijn ontworpen en gebouwd door een startup in Estland is interessant; het is nog opmerkelijker dat de bots routinematig geautomatiseerde contractonderhandelingen voeren voor mega-ondernemingen. Maar wat echt de ogen opent, is dat deze AI-agenten ernaar streven om autonoom, zonder tussenkomst van mensen, te werken. Dat roept de vraag op: wat gebeurt er als de AI’s onderling gaan onderhandelen?

“In de toekomst kan ik me voorstellen dat allerlei agenten in de echte fysieke wereld met elkaar onderhandelen”, zegt Tim Baarslag, senior onderzoeker in intelligente en autonome systemen bij het Centrum Wiskunde & Informatica in Amsterdam. “Ik denk dat het meer onderzoek vereist om deze bots helemaal los te laten.”

Baarslag worstelt al jaren met concepten voor onderhandelingsbots. Eén van zijn collega’s heeft een lopend project genaamd Pocket Negotiator. In 2017 publiceerden hij en zijn collega’s ‘When Will Negotiation Agents Be Able to Represent Us?’ Ze trokken een scherpe grens tussen geautomatiseerde en autonome onderhandelingen. Het verschil is de vrijheid om onafhankelijk te onderhandelen.

De vijf jaar oude Estische startup Pactum brengt zijn bot duidelijk op de markt als een autonome agent. Naast Maersk en Walmart omvat de klantenlijst een leverancier van kabels en een groothandel in elektrische benodigdheden, dat ooit onderdeel was van Westinghouse. De startup kreeg in juli een durfkapitaalinvestering van 20 miljoen dollar van investeerders, waaronder Maersk zelf.

Hoe autonome onderhandelingen werken

In een stijlvol kantoor in de Estische hoofdstad Tallinn werkt Kristjan Korjus op zijn sokken terwijl een collega optrekoefeningen doet op een bar in de hoek bij de whiteboards. Korjus maakt deel uit van het team dat Pactum oprichtte, samen met zijn broer Kaspar, voormalig directeur van het e-verblijfsprogramma van het land. Een ander oprichter is Pactum-topman Martin Rand, die deel uitmaakt van de ‘Skype Mafia’ van bedrijfsoprichters die voortkomen uit de originele softwarehit van Estland. Pactum heeft nu ook kantoren in Californië.

Kristjan, die het luchtige Bedside Reading About Mathematics schreef, een bestseller in Estland, was hoofd van AI bij Starship Technologies, dat autonome bezorgrobots maakt. Hij hielp Pactum een ​​liveplatform op te zetten binnen een maand na de oprichting van het bedrijf in 2019. Kort daarna waren Walmart-vertegenwoordigers in het kleine Estse stadje Viljandi om samen te werken met Cleveron (een andere maker van pakketbezorgrobots) en hadden ze vergaderingen met veelbelovende partners, waaronder het Pactum-team en zijn onderhandelings-AI. “Ze begrepen het meteen”, zegt Korjus.

Pactum noemt zijn agent een autonome onderhandelingssuite. De machine learning van het systeem kan een enorme set complexe contractvoorwaarden analyseren met behulp van historische en marktgegevens van zowel binnen als buiten het bedrijf. Het kan zijn analyse naar een menselijke gebruiker sturen, zoals een koper of inkoopfunctionaris, of het kan op zichzelf een set contractopties produceren en doorsturen naar een leverancier (meestal gebaseerd op prijs, leveringsdata en factureringscycli). De bot kan tegenaanbiedingen accepteren en reageren.

Walmart en Maersk gebruiken AI-agenten om dealvoorwaarden te onderhouden en te onderhandelen met zogenaamde tail-end vendors, de vele kleine leveranciers waarvan de transacties met een lage waarde desondanks het grootste deel van de contracten van een bedrijf uitmaken. Elk groot bedrijf, vooral een met uitgebreide supply chain- en logistieke behoeften, beheert duizenden van dit soort relaties.

Zoals uiteengezet in Procurement in the Age of Automation door de experts in supply chain management Remko van Hoek en Mary Lacity van de University of Arkansas, kan een AI-bot 2000 onderhandelingen tegelijk voeren, de hele dag en nacht, terwijl leveranciers tijd krijgen om biedingen voor te bereiden en tegenaanbiedingen te doen.

Stel bijvoorbeeld dat een grote winkelketen tuinmeubilair voor de parkeerplaatsen van zijn winkel wil vervangen. Hij doet een oproep tot biedingen en krijgt een aantal aanbiedingen. Het Pactum AI-systeem kan zijn grote taalmodellen gebruiken om deze aanvraag te analyseren, en alle eerdere aanvragen van dit type.

De taalmodellen genereren hier geen nieuwe onderhandelingsclausules. Ze verzamelen eerder informatie en identificeren leveranciers. Gegevens kunnen worden binnengehaald uit interne of externe bronnen over factoren zoals de sterkte van de relatie en de huidige marktprijzen, allemaal met behulp van door de klant ingestelde parameters. Een chatbot stuurt vervolgens een bericht naar bieders met aangeboden voorwaarden: misschien drie verschillende opties. Welke zijn acceptabel? De leverancier zegt ja of nee. Vervolgens is er nog meer onderhandeling, of, als de voorwaarden binnen een doelgroepspectrum worden overeengekomen, gaat de inkoopstroom verder.

Waar gaat autonome onderhandeling vanaf hier naartoe?

So far, so good. Maar leveranciers zullen binnenkort hun eigen bots gaan inzetten, als ze dat nog niet hebben gedaan. Het zou een vreemde nieuwe wereld van bot-tot-botcommunicatie kunnen worden.

Baarslag heeft ooit een testcase uitgevoerd met twee AI’s die onderhandelden waar ze zouden gaan eten, waarbij de een pizza wilde en de ander sushi. De bots kwamen overeen om sushi op een pizza te doen. “Ze hebben het potentieel om creatief te zijn, maar als je dat combineert met zelfredzaamheid (laat ze bijvoorbeeld een pizza bestellen), krijg je misschien vreemde resultaten”, zegt hij.

AI heeft al een aantal wenkbrauwfronsende scènes in het wild gecreëerd. Een Pools radiostation ontsloeg vorige maand zijn on-air talent en verving ze door chatbots, maar trok zich terug te midden van controverse toen een stationbot een andere bot ‘interviewde’ die de stem van een overleden Nobelprijswinnaar opnieuw creëerde.

Dorota Owczarek, een productmanager die werkt aan kunstmatige intelligentie bij Nexocode in Krakau, zegt dat een risico van het vouwen van taalmodellen in autonome onderhandelingsbots is dat ze voorwaarden beloven die buiten de overeengekomen scenario’s of historische limieten vallen. Veiligheidsmaatregelen die afwijkingen signaleren en snel menselijk ingrijpen zijn cruciaal, zegt ze. Gezien het feit dat er geld op het spel staat, lijkt het waarschijnlijk dat retail contractonderhandelingsbots zich zullen houden aan taken als prijsbepaling, en dat het op de hoogte houden van een mens gangbare praktijk zal blijven, althans voorlopig. Maar de zakenwereld staat te popelen om autonome technologieën te omarmen.

Vorig jaar werkte Kaitlynn Sommers, procurement technology analist bij Gartner, aan een onderzoek voor het adviesbureau van meer dan 100 procurement executives. Uit het onderzoek bleek dat 50 procent van de organisaties tegen 2027 AI-systemen zal inzetten voor contractrisicoanalyse en -bewerking. Ze kan zich een generatieve AI voorstellen die contractclausules kan oplossen en zelfstandig kan bewerken, als mensen de praktijk accepteren. De mogelijkheden zijn er al, zegt ze. “Maar de meeste ondernemingen, met name grote ondernemingen, zijn niet bereid om een ​​contract te laten ondertekenen zonder dat er een paar ogen het hele contract hebben bekeken”, zegt Sommers.

Van AI-systeem als assistent naar geautomatiseerde handel

Van wat Owczarek nu ziet, is de vraag van klanten bij AI-inkooponderhandelingen gericht op prijsaanbevelingen, waarbij het AI-systeem een ​​assistentrol vervult. Wanneer bots vanuit dit perspectief andere bots tegenkomen, lijkt het meer op geautomatiseerde handel.

Korjus van Pactum beschrijft wat zijn bedrijf doet als het in principe schrijven van bedrijfsstrategie in code. “Als je een mens vraagt, waarom heb je contact opgenomen met deze leverancier? Het antwoord zou kunnen zijn: ‘oh, ze hebben snel op mijn e-mails gereageerd.’ Wij nemen daarentegen contact op omdat de leverancier drie maanden geleden een goed bod deed voor een soortgelijk item en we de volledige gegevens hebben.”

Pactum heeft zijn eerste application programming interfaces gedefinieerd voor het uitvoeren van machine-naar-machine-onderhandelingen, hoewel ze nog niet zijn geïmplementeerd omdat er weinig vraag naar is.

Maar het komt eraan, zegt Baarslag. Jarenlang organiseerde hij wedstrijden op AI-conferenties waar hij bots observeerde die met bots interacteren (er komt nog een wedstrijd in december in Vancouver). Er kunnen kwetsbaarheden zijn als een AI een AI-tegenhanger herkent en put uit de interne bedrijfsgegevens die de modellen trainen, zegt hij. Beveiliging moet vanaf het begin worden ingebouwd.

Autonome bots zouden ook in de verleiding kunnen komen om met elkaar samen te spannen of oneerlijke zakelijke praktijken te hanteren, wat een risico zou zijn: Baarslag herinnert zich een softwarecompetitie met een ‘prisoner’s dilemma’ van lang geleden, waarbij agenten elkaar konden herkennen. Deze ‘vingerafdrukken’ van een AI-systeem zouden kunnen leiden tot prijssignalering, samenwerking of zelfs collusie zonder dat die praktijken specifiek zijn geprogrammeerd. ‘Dat is een opkomende eigenschap van dit soort communicatie’, zegt Baarslag. ‘Daar moeten we voorzichtig mee zijn.’

Autonome onderhandelingsbots worden gemeten aan hoe zelfvoorzienend ze zijn (kunnen ze betalen voor dingen); zelfsturing (kunnen ze doelen stellen en bereiken); en hun vermogen om met anderen samen te werken, inclusief mensen.

Jan Martin Spreitzenbarth, een inkoper bij een Duits autosoftwarebedrijf die zijn doctoraat deed over autonome contracterende agenten, ziet een duidelijke trend richting autonome onderhandelingen, met AI-systemen die beslissingen kunnen nemen zonder directe menselijke betrokkenheid. Het zou zelfs op een persoonlijk, alledaags niveau kunnen gebeuren, zoals het organiseren van een afspraak bij de kapper, het plannen van een weekendje weg of het kopen van kerstcadeaus voor het gezin.

“Machine-naar-machine-interacties zullen steeds gebruikelijker worden”, zegt Spreitzenbarth. “Communicatie zal sneller en efficiënter zijn. Maar aspecten van menselijke interacties kunnen verloren gaan. Dat moet worden gecompenseerd.”

Tim Baarslag legt in deze video uit hoe computers kunnen onderhandelen voor betere samenwerking

Zie ook Kan AI een einde maken aan Twitteroorlogen tijdens kabinetsformatie? Onderzoekers zijn enthousiast | Utrecht | AD.nl

Bron: AI Agents Are Taking Over Contract Negotiations – IEEE Spectrum

Bekijk meer toepassingen voor AI in business