Onderzoek UC waarschuwt dat derde-partij AI-routers crypto en privé-sleutels stelen

crypto-nieuws

Onderzoekers van de Universiteit van Californië hebben ernstige beveiligingsproblemen ontdekt bij derde-partij AI-routerdiensten. Deze tekortkomingen kunnen leiden tot de diefstal van cryptocurrency en cloud-gegevens.

Beveiligingsrisico’s van third-party AI-routers

In een recent gepubliceerd onderzoek is vastgesteld dat de toeleveringsketen voor grote taalmodellen verschillende kwetsbaarheden vertoont. Deze kwetsbaarheden maken het mogelijk voor kwaadwillende code om in te breken en credentials te stelen. De routers, die door ontwikkelaars worden gebruikt om toegang te beheren tot diensten zoals Google of OpenAI, fungeren als tussenpersonen die veilige encryptie beëindigen. Hierdoor kunnen gevoelige informatie, zoals seed-zinnen of privésleutels, worden onderschept door niet-geverifieerde infrastructuren. Uit testen met 400 gratis en 28 betaalde routers bleek dat negen van deze diensten actief kwaadaardige code injecteerden, terwijl 17 routers toegang hadden tot Amazon Web Services-credentials van het onderzoeksteam.

Gevaren van onbetrouwbare routers

Tijdens de experimenten bleek dat een router met succes Ether kon onttrekken uit een nep-portemonnee nadat de onderzoekers een vooraf gefinancierde privésleutel hadden opgegeven. Hoewel het team de saldo’s laag hield om het totale verlies onder de 50 dollar te houden, bevestigt dit hoe gemakkelijk een gecompromitteerde tussenpersoon fondsen kan stelen. Het identificeren van een kwaadwillende router is voor de gemiddelde gebruiker een grote uitdaging. De onderzoekers wijzen erop dat, omdat deze diensten gegevens moeten lezen om ze door te sturen, er geen zichtbaar verschil is tussen legitieme verwerking en actieve diefstal. De risico’s nemen toe wanneer ontwikkelaars de ‘YOLO-modus’ inschakelen, een instelling die het mogelijk maakt dat een agent commando’s automatisch uitvoert zonder menselijke bevestiging. Een duurzame oplossing zou vereisen dat AI-bedrijven cryptografische handtekeningen gebruiken, zodat een agent kan bewijzen dat instructies van het daadwerkelijke model komen en niet van een gemanipuleerde derde partij.

Deel dit artikel

Net binnen