Anthropic hat den Start eines Pilotprojekts bekannt gegeben, bei dem erstmals die KI Claude aktiv im Chrome-Browser eingebunden wird. 1.000 ausgewählte Nutzerinnen und Nutzer des Max-Tarifs erhalten die Möglichkeit, Claude damit konkrete Aufgaben direkt im Browser ausführen zu lassen – vom Kalender-Management bis zum Verfassen von E-Mails und dem Testen neuer Webseitenfunktionen. Ziel ist es, praxisnahe Rückmeldungen zu erhalten und die KI sicherer für den Alltagseinsatz zu machen.
Fokus auf Sicherheit und Kontrolle
Die Integration von KI-Agenten in den Browser wirft neue Sicherheitsfragen auf. Anthropic adressiert insbesondere sogenannte Prompt-Injection-Angriffe, bei denen manipulierte Webseiten oder E-Mails versteckte Anweisungen enthalten können. In Simulationen und internen Tests führte dies teils dazu, dass Claude ohne Rückfrage schädliche Aktionen wie das Löschen von E-Mails durchführte.
Um solchen Szenarien entgegenzuwirken, setzt Anthropic auf ein abgestuftes Berechtigungskonzept: Nutzer:innen behalten die Kontrolle und können Zugriffsrechte gezielt für Websites vergeben oder entziehen. Für risikoreiche Aktionen wie das Versenden oder Löschen von Daten ist eine explizite Bestätigung erforderlich. Zudem greift Claude auf bestimmte Seiten – etwa im Bereich Finanzen oder Erotik – grundsätzlich nicht zu.
Pilottest als Lernfeld für weitere Schutzmaßnahmen
Die bisherigen Sicherheitsmaßnahmen reduzieren laut Anthropic die Erfolgsquote von Angriffen deutlich, doch das Unternehmen sieht weiterhin Verbesserungsbedarf. Im Pilotprojekt sollen reale Nutzungsdaten und neue Angriffsmuster gesammelt werden, um die Schutzmechanismen weiter zu verfeinern. Dazu zählen der Ausbau von Klassifikatoren für verdächtige Instruktionen sowie eine differenzierte Rechteverwaltung.
Interessierte können sich auf einer Warteliste für den Test anmelden. Anthropic empfiehlt vorerst, den KI-Agenten nur auf vertrauenswürdigen Webseiten einzusetzen und sensible Bereiche wie Finanzen oder Recht außen vor zu lassen. Das Feedback der User ist entscheidend, um Claude für Chrome alltagstauglich und sicher zu gestalten.
Externer Link zum Thema
Schreibe einen Kommentar