Betrug jenseits von ChatGPT: Autonome Browser bergen Risiken für Universitäten

Seit der Einführung von ChatGPT haben sich KI-Chatbots im schulischen Umfeld stark verbreitet. Doch OpenAI, das Unternehmen hinter ChatGPT, hat gerade ein neues KI-Tool veröffentlicht, das die Bekämpfung von KI-generierten Hausarbeiten mittels KI-Erkennung erschweren könnte. Der neue Browser von OpenAI namens Atlas folgt auf die Veröffentlichung anderer Browser, die KI-Technologie integrieren. In diese Browser sind Assistenten eingebaut, die den Browser ohne Tastatureingaben oder Mausklicks bedienen. Das bedeutet, dass sie selbstständig in einem Learning Management System (LMS) wie Canvas und in Prüfungssoftware navigieren können. Die Ankündigung von OpenAI zu ihrem neuen Produkt enthielt eine Empfehlung eines Studenten, der das Tool als Hilfe für sein Lernen empfand. Allerdings schlagen Studierende und Forscher Alarm, dass diese Tools die akademische Integrität und persönliche Daten in Klassenzimmern gefährden, die bereits durch den zunehmenden Einsatz von KI aus dem Gleichgewicht geraten sind.

In Online-Beiträgen nutzen Studierende diese sogenannten „agentenbasierten Browser“, um akademische Plattformen wie Canvas und Coursera zu übernehmen und die ihnen zugewiesenen Quizze zu absolvieren. Der CEO von Perplexity, dem Entwickler des agentenbasierten Browsers Comet, reagierte sogar auf einen Studierenden, der zeigte, wie er das Tool zum Absolvieren eines Quiz nutzte, mit den Worten: „Tu das auf keinen Fall.“

Diese Browser interagieren auf Wunsch des Nutzers mit Websites, um Aufgaben wie Einkaufen, das Surfen im Internet und das Ausfüllen von Formularen zu erledigen. Sie können sogar Schulaufgaben erledigen, ohne dass der Schüler die Tastatur berühren muss. Siehe das folgende Beispiel:

Carter Schwalb, Student im Hauptfach Business Analytics im letzten Studienjahr an der Bradley University, leitet den KI-Club seiner Hochschule. Er berichtete, er habe mit agentenbasierten Browsern experimentiert, um Reisen zu planen, nach Wohnungen zu suchen und Informationen von verschiedenen Websites zusammenzufassen. Allerdings habe er mit vielen Professoren seiner Universität gesprochen, die berichten, dass Studierende KI-generierte Antworten für ihre Hausarbeiten einreichen.

„Ich habe schon oft erlebt – auch im Gespräch mit Professoren –, dass Studierende ganz unverhohlen von ChatGPT generierte Antworten einreichen“, sagte Schwalb.

Für Schüler und Studenten bieten agentische Browser mit ihren integrierten Chatbots und der Möglichkeit, Aufgaben automatisch zu erledigen und einzureichen, eine neue Art von Komfort. Lehrkräfte, die diesen Problemen entgegenwirken möchten, können anhand des Versionsverlaufs in Google Docs feststellen, ob Schüler und Studenten KI-Assistenten nutzen, um ganze schriftliche Arbeiten zu erstellen und einzureichen.

Studierende wie Schwalb verzichten jedoch darauf, diese Tools zur automatisierten Erledigung von Aufgaben zu nutzen. Schwalb erklärte, er wolle seine Fähigkeit zum kritischen Denken nicht einbüßen, indem er seine gesamte Arbeit an KI-Tools auslagere.

„Ich muss mir meine Fähigkeit zum kritischen Denken bewahren, und ich denke, das muss betont werden – wahrscheinlich sowohl von Lehrern gegenüber ihren Schülern als auch von Eltern gegenüber ihren Kindern“, sagte Schwalb.

Nicht jeder teilt Schwalbs Ansicht. Doch die Nutzung von Browsern mit eigenständiger Handlungsfähigkeit wirft nicht nur Bedenken hinsichtlich der akademischen Integrität und des Engagements im Bildungsbereich auf. In einer Studie, die unter anderem von Yash Vekaria, einem Doktoranden an der University of California Davis, verfasst wurde, kamen die Forscher zu dem Schluss, dass Browser-Erweiterungen mit generativen KI-Assistenten die persönlichen Daten ihrer Nutzer speichern und weitergeben.

„Manchmal kann dies die Erfassung und Speicherung von Informationen beinhalten, die für einen Nutzer sensibel sind“, sagte Vekaria.

Die Studie wurde Ende 2024 durchgeführt, als agentische Browser noch nicht zum Mainstream der KI-Nutzung gehörten. Ab Mai 2025 nahmen die Suchanfragen nach „KI im Browser“ und „Comet-Browser“ (dem von Perplexity entwickelten Tool) bei Google zu. Laut Vekaria gelten die Schlussfolgerungen der Forscher jedoch auch für agentische Browser. Zudem, so sagte er, könnten agentische Browser größere Datenschutzrisiken bergen, als in der Studie behandelt wurden.

„Der Assistent ist immer im Seitenbereich präsent, sodass er Zugriff auf alle Aktivitäten des Nutzers hat und diese einsehen kann“, sagte Vekeria. „Agentenbasierte Browser sammeln all diese Informationen und bergen meiner Meinung nach, wenn nicht ähnliche, so doch zumindest größere Risiken.“

Viele Studierende, die agentische Browser für akademische oder private Zwecke nutzen, sind sich dieser Risiken nicht bewusst, wie Vekaria feststellte. Bei der Nutzung auf akademischen Plattformen wie Canvas sammelten KI-Assistenten die akademischen Daten der Studierenden und gaben sie an andere Websites weiter. Der Schutz der Bildungsdaten von Studierenden soll durch ein Bundesgesetz namens FERPA gewährleistet sein.

„Wir haben festgestellt, dass damit akademische Daten von Studierenden abgezogen werden konnten, was einen Verstoß gegen das FERPA darstellt, das in den USA die akademischen Daten von Studierenden schützt“, sagte Vekaria. „Generell sollte es eine strengere Durchsetzung der Vorschriften geben.“

Allerdings haben die Hochschulen im ganzen Land keine einheitliche Reaktion auf die Nutzung dieser Tools durch ihre eigenen Studierenden gezeigt. Während KI-Detektoren die von Studierenden eingereichten Arbeiten überprüfen können, werden diese Kontrollen bei Multiple-Choice-Tests und in Diskussionsforen nicht berücksichtigt. Die Studierenden nutzen diese Tools dennoch, und Schwalb argumentiert, dass Einschränkungen nicht die Lösung seien.

„Ich habe kein Argument gegen den umfassenden Einsatz von KI an einer Universität gehört, das überzeugend genug wäre – abgesehen davon, dass wir nicht wollen, dass die Studierenden sie nutzen, was einfach nicht vernünftig ist“, sagte Schwalb. „Das ist so, als würde man bei der Einführung des Internets jemandem verbieten, das Internet zu nutzen, oder bei der industriellen Revolution jemandem verbieten, etwas am Fließband herzustellen.“

Mit dem Aufkommen neuer Tools verändert sich die Situation für Studierende und Lehrende ständig. Unternehmen, die Bildungseinrichtungen unterstützen möchten, bringen verschiedene Tools auf den Markt, wie beispielsweise fortschrittliche KI-Detektoren, die die Nutzerdaten schützen, die durch agentische Browser gefährdet werden könnten.

„Die Möglichkeit ist da, und die Schüler werden sie nutzen“, sagte Schwalb. „Die Frage ist nicht, ob wir das einschränken sollen, sondern wie wir es integrieren können.“