Ein norwegisches Tech-Startup hat entdeckt, dass ChatGPT in der Lage ist, detaillierte Anleitungen zur Durchführung illegaler Aktivitäten zu geben, darunter Geldwäsche und der Export von Waffen in sanktionierte Länder. Dies wirft Fragen zur Effektivität der Sicherheitsmaßnahmen auf, die verhindern sollen, dass der Chatbot für kriminelle Zwecke genutzt wird. Das Unternehmen Strise führte Tests durch, bei denen ChatGPT nach Tipps zu verschiedenen Straftaten gefragt wurde. In einem Fall lieferte der Chatbot laut Strise Hinweise zur Durchführung von Geldwäsche. In einem anderen Experiment erstellte ChatGPT Listen mit Methoden, wie Unternehmen Sanktionen umgehen können, einschließlich der gegen Russland verhängten Sanktionen, die etwa grenzüberschreitende Zahlungen und den Waffenhandel betreffen. Strise entwickelt Software, die Banken und Unternehmen hilft, Risiken wie Geldwäsche zu erkennen und zu bekämpfen. Laut dem Unternehmen können potenzielle Straftäter ChatGPT nun wesentlich schneller und einfacher zu ihren Zwecken einsetzen als je zuvor. Marit Rødevand, Mitbegründerin und Geschäftsführerin von Strise, erklärte, dass die Nutzung von ChatGPT für solche Vorhaben „mühelos“ sei, da es lediglich eine App auf dem Smartphone erfordere. Strise fand zudem heraus, dass es möglich ist, die Sperren von OpenAI, die darauf abzielen, den Chatbot vor der Beantwortung bestimmter Fragen zu schützen, zu umgehen. Bereits im vergangenen Jahr wies Europol darauf hin, dass generative KI-Chatbots wie ChatGPT es böswilligen Akteuren wesentlich leichter machen, sich mit Straftaten auseinanderzusetzen und diese zu begehen. Der Chatbot beschleunigt die Verarbeitung und das Zusammenfassen von Informationen erheblich, was den Lernprozess im Vergleich zu traditionellen Methoden vereinfacht. Dies stellt eine fortwährende Herausforderung dar, da böswillige Nutzer immer wieder neue Methoden entwickeln, um die Schutzmechanismen zu überwinden.

Weitere Informationen finden Sie hier.