Was ist generative KI und welche Risiken bringt sie?
Generative KIs wie ChatGPT wecken bei Menschen und Unternehmen grosse Erwartungen. Doch solche Systeme bergen auch Risiken, sowohl für KI-Benutzer:innen als auch für jene, die KI-generierte Inhalte lesen oder sehen, ohne diese selbst erstellt zu haben.
Der Begriff «Künstliche Intelligenz», kurz «KI», ist nicht neu. Er ist ein Sammelbegriff für viele verschiedene Versuche, technische Geräte intelligent(er) zu machen. Heute nutzen viele Unternehmen den Begriff «KI», um sich fortschrittlich zu zeigen. Damit sind sie in weiten Teilen erfolgreich. Viele Medien berichten über sensationelle Zahlen aus Deals (die teils platzen) oder bahnbrechende Produkte. Entsprechend sind auch die Unternehmenswerte von KI-Unternehmen wie Anthropic oder OpenAI explodiert.
Dabei bringt die Verbreitung von generativer KI auch Risiken mit sich oder verstärkt bestehende Probleme und Ungleichheiten. Lange Zeit fanden kritische Stimmen kaum Beachtung in den Medien. Diese Kritik stellt sowohl das Geschäftsmodell als auch die Funktionsweise von KI infrage. Das hat sich inzwischen geändert. Zahlreiche Medien und Newsportale berichten heute auch kritischer über KI.
Was ist generative KI?
Generative KI ist eine Software, die neue Inhalte aufgrund von Anfragen erzeugt. Damit die Software eine Anfrage in natürlicher Sprache versteht, wird sie mit sehr grossen Datensätzen und mehreren Durchgängen trainiert. Dabei «erlernt» das grosse Sprachmodell (Large Language Model, LLM) Muster. Der Begriff «Lernen» ist in diesem Zusammenhang jedoch trügerisch, denn grosse Sprachmodelle können nichts wirklich verstehen.
Neben generativer KI gibt es andere Anwendungen, die als künstliche Intelligenz bezeichnet werden. Dazu gehört das «Machine Learning», bei dem beispielsweise moderne Autos Strassenschilder erkennen. Auch bei der Erkennung von Brustkrebs kommt diese Technik zum Einsatz. Der wohl erste KI-Chatbot namens ELIZA (hier können Sie ELIZA testen) wurde Mitte der 1960er Jahre von Joseph Weizenbaum entwickelt.
Wie funktioniert eine generative künstliche Intelligenz?
Eine generative KI (beispielsweise «Chatbot») erzeugt Inhalte («Output»), wie Texte oder Bilder, aufgrund einer Anfrage («Prompt»). KI-Chatbots wie ChatGPT oder Claude imitieren dabei die menschliche Sprache, sowohl in Texten als auch in gesprochener Sprachausgabe. Der Inhalt wird anhand der antrainierten Muster und mit den Informationen aus der Anfrage generiert. Das Zusammenspiel dieser Faktoren kann dazu führen, dass eine generative KI Inhalte erzeugt, die falsch oder fehlerhaft sind. Zudem können die generierten Inhalte dadurch auch diskriminierende Vorurteile enthalten.
Wofür werden diese KIs eingesetzt?
Mit generativer KI lassen sich unterschiedliche Inhalte erstellen. Viele grosse Tech-Unternehmen, auch Big Tech genannt, setzen generative KI in ihren Arbeitsabläufen ein, zum Beispiel um Programmcodes zu schreiben. Sie erhoffen sich davon Kosteneinsparungen und höhere Effizienz.
Auch Konsument:innen nutzen generative KI für unterschiedliche Zwecke. Neben Texten generieren sie dabei oft auch Bilder oder Videos. KI-Chatbots wie ChatGPT werden unter anderem als Suchmaschine oder zum Vergleichen von Produkten verwendet.
Zuletzt wird die Technologie auch von Tätern (und selten Täter:innen) genutzt, die mit generativer KI Nacktbilder und -Videos (Deepfakes) erstellen. In der Regel von erwachsenen Personen, teils auch von Kindern und Jugendlichen.
Was sind einige Risiken von generativer KI?
Risiken für die Nutzer:innen
Fehlerhafte Informationen
Die Inhalte von KI-Chatbots können Fehler enthalten. Diese nennt man «Halluzinationen». Manchmal sind es kleine falsche Details, teils aber auch grobe Fehler. Besonders die kleinen Fehler sind tückisch, weil sie schwer erkennbar sind.
Selbst das Beratungsunternehmen KPMG hat in einem Bericht halluzinierte Informationen verwendet. Ausgerechnet in einem Bericht über KI-Nutzung. Fast 90 % der Fallstudien darin waren fehlerhaft. KPMG zog den Bericht deshalb zurück.
Nach einer Studie von OpenAI, der Entwicklerin von ChatGPT, ist es mathematisch unmöglich, ein generatives KI-Modell ganz ohne Halluzinationen zu entwickeln.
Prüfen Sie deshalb alle Informationen, die Sie von einem KI-Chatbot erhalten. Weil die Antwort auf Wahrscheinlichkeiten basiert, empfiehlt es sich, die Anfrage mehrmals auf unterschiedliche Arten zu formulieren.
Das gilt auch für Suchmaschinen mit KI-Zusammenfassungen wie Google. Wer bei Google keine KI-Zusammenfassung möchte, kann den Suchbegriff mit «-noai» ergänzen.
Gesundheitsrisiken
Es gibt erste Hinweise, dass die (übermässige) Nutzung von KI-Chatbots auch gesundheitliche Risiken birgt, insbesondere für die psychische Gesundheit. Besondere Risiken scheinen von «Companion-» Chatbots (KI-Freund:innen) auszugehen, etwa Einsamkeitsgefühle.
Bei KI-Chatbots wie Character.AI oder Replika, die sich wie Freund:innen verhalten, ist die Gefahr einer Abhängigkeit besonders hoch. Aber auch bei generellen KI-Chatbots wie ChatGPT oder Gemini können Nutzer:innen abhängig werden. Unter anderem, weil diese Modelle so trainiert sind, Nutzer:innen in ihren Einschätzungen zu bestätigen, selbst wenn diese falsch liegen. Beim Microsoft-KI-Tool «Scout» soll das Süchtigmachen von Nutzer:innen sogar zur Geschäftsstrategie gehören.
Es gibt auch Personen, die KI-Chatbots als Psychotherapeut:innen benutzen. Bei einer Umfrage von 362 Personen, die KI-Chatbots als Psychotherapeut:innen benutzen, hatte rund die Hälfte der Befragten verstärkte Gedanken an Suizid und Selbstverletzung.
Wenn Sie KI-Chatbots dauerhaft und stark nutzen, können Sie davon abhängig werden. Falls Personen in Ihrem Umfeld Sie auf Anzeichen einer Abhängigkeit ansprechen, sollten Sie diese Bedenken in jedem Fall ernst nehmen. Dasselbe gilt, wenn Sie sich wegen der übermässigen Nutzung von KI-Chatbots von nahestehenden Personen zurückziehen.
Privatsphäre, Datenschutz & -sicherheit
Abhängig davon, wie häufig und wofür generative KI-Tools genutzt werden, fallen grosse Datenmengen an, die Nutzer:innen von sich preisgeben. Was mit diesen Daten genau geschieht, ist unklar. Die Angaben der Anbieterinnen sind oft vage. Klar ist, dass bei generativen KI-Chatbots wie Claude oder ChatGPT Ihre Eingaben auf den Servern der Herstellerinnen landen. Ob diese damit weitere KI-Modelle trainieren, ist nicht nachvollziehbar. Zumindest bei OpenAI wissen wir aber, dass externe Mitarbeitende ganze Chats lesen.
Geben Sie deshalb bei der Verwendung von generativer KI nur unverfängliche Daten und Angaben ein. Laden Sie keine privaten Dokumente, Fotos oder Videos hoch. Entfernen Sie persönliche Angaben wie Namen, E-Mail-Adressen oder Metadaten (Zeitpunkt, Aufnahmeort (GPS), IP-Adressen oder ähnliche Angaben) aus Dateien, bevor Sie diese hochladen. Auch Angaben und Daten zu Ihrer Gesundheit sollen Sie zurückhaltend preisgeben. Bei häufiger Nutzung von generativen KI-Chatbots kann ein klares Persönlichkeitsprofil von Ihnen entstehen.
Mögliche weitere Folgen
Bei Menschen, die für eine Aufgabe KI-Chatbots nutzen, wurde in Studien weniger Hirnaktivität sowie schwächeres kritisches Denken beobachtet. Ob das langfristige Folgen hat, ist noch unklar. Im schlimmsten Szenario können KI-Nutzer:innen so abhängig werden, dass sie den Alltag ohne KI nicht mehr bewältigen können. Solche dystopischen Folgen sind aber ein unrealistisches Extremszenario und werden sogar als Marketing-Trick von KI-Unternehmen genutzt.
Auch ein mehrfach geäusserter, grossflächiger Arbeitsplatzverlust durch KI gilt als unwahrscheinlich. Realistischer sind Veränderungen in einigen Branchen. Selbst OpenAI-Chef Sam Altman hat seine frühere, pessimistischere Einschätzung inzwischen relativiert. Dennoch gab und gibt es Massenentlassungen wegen KI – teilweise wurden diese aber wieder rückgängig gemacht. Manche vermuten zudem, dass KI teils nur als Vorwand für Entlassungen oder Einstellungsstopps genutzt wird.
Risiken für Empfänger:innen von KI-Inhalten
Desinformation & Betrug mit Deepfakes
Mit generativer KI lassen sich Bilder, Videos und Audioaufnahmen mit wenig Aufwand verändern oder neu erstellen. Manche Nutzer:innen missbrauchen das, um andere zu täuschen. Die Motivation dahinter liegt oft, ähnlich wie bei Desinformation oder Internetbetrug ohne KI, bei politischen oder finanziellen Gründen. Neu ist, dass solche KI-Inhalte nun in grosser Menge und Geschwindigkeit erstellt werden, was bisher kaum möglich war.
Je besser die generativen KI-Modelle werden, desto schwieriger wird es auch, täuschende Inhalte zu erkennen. Besonders bei Bildern und Videos wirken die Resultate immer realistischer.
Statt mit Fake-Promis arbeiten Betrüger:innen heute mit ganzen Fake-Influencer:innen, um Produkte auf TikTok und anderen Social-Media-Plattformen zu verkaufen. Auch bei unlauteren Dropshipping-Shops wird KI häufig verwendet, etwa um Logos oder Bilder des angeblichen Ladenlokals zu erstellen.
Nutzung von KI durch Cyberkriminelle
Auch Cyberkriminelle nutzen generative KI, um effizienter zu arbeiten. Das führt zu erhöhten oder neuartigen Cyber-Sicherheitsrisiken. Je leistungsfähiger die KI-Tools werden, desto grösser werden auch die Angriffsmöglichkeiten.
Nicht immer sind solche Cyberangriffe beabsichtigt. Sowohl OpenAI als auch Anthropic und Meta haben mit ihren Modellen bereits ungewollt andere Unternehmen angegriffen. Die KI-Tools nutzten dabei Schwachstellen aus, um ein vorgegebenes Ziel zu erreichen.
Cyberkriminelle nutzen generative KI auch gegen Konsument:innen, etwa für Betrugsmaschen wie Phishing. Solche Nachrichten wirken auf Empfänger:innen dadurch meist noch überzeugender. Verlassen Sie sich nicht mehr auf Schreibfehler, sondern prüfen Sie Details wie beispielsweise die Absende-Mailadresse, wohin der Link führt oder ob die Schilderung plausibel ist.
Globale Folgen
Umweltbelastung durch generative KI
Das Trainieren und Betreiben von KI-Modellen braucht enorm viel Rechenleistung. Die Rechenzentren verbrauchen dafür grosse Mengen Strom sowie Wasser zur Kühlung. Laut einem UN-Bericht war KI 2025 für rund 20 % des Stromverbrauchs aller Rechenzentren verantwortlich. Das entspricht rund 112 von 448 Terawattstunden (TWh).
Der grösste Teil des Stroms, welchen diese Rechenzentren beanspruchen, stammt weltweit noch aus fossilen Energien, auch wenn der Anteil an erneuerbarer Energie (insbesondere Solarstrom) in den letzten Jahren stark gestiegen ist. Der Meta-Konzern kooperiert mit Energieversorgerinnen, um Teile des Strombedarfs mit Atomkraftwerken zu decken. Gemäss Prognosen der Internationalen Energieagentur steigt der fossile Anteil bis 2030 aber weiter an.
Auch in der Schweiz wird ein Anstieg beim Stromverbrauch durch Rechenzentren erwartet. Gemessen an der Bevölkerung hat die Schweiz bereits sehr viele Rechenzentren, die neben Strom auch grosse Wassermengen verbrauchen.
Belastung für Anwohner:innen von KI-Rechenzentren
Die KI-Rechenzentren brauchen Unmengen an Strom und nutzen dafür überwiegend fossile Energie. Eine Hochrechnung der Harvard-Universität ergab 2025, dass ein in Pittsylvania County (Virginia, USA) geplantes Rechenzentrum mit Gaskraftwerk genügend Feinstaub (PM2.5) ausstossen würde, um das Herzinfarkt-Risiko bei über einer Million Bewohner:innen zu erhöhen. Der Feinstaub ist durch die Gasturbinen, die den Strombedarf decken sollten, entstanden. Bereits geringste Konzentrationen an Feinstaub reichen aus, um die Gesundheit der Bevölkerung zu schädigen. Die Studie rechnete als Folge mit möglichen Gesundheitskosten von über 31 Millionen US-Dollar pro Jahr.
Belastung für Datenarbeiter:innen
Die für das KI-Training nötigen Datenmengen müssen oft manuell aufbereitet werden. Das geschieht meist in afrikanischen Ländern, wo die Datenarbeiter:innen unter miserablen Arbeitsbedingungen das Trainingsmaterial (Bilder, Videos) beschriften. So kann das KI-Modell darauf trainiert werden, wie etwas aussieht. Dabei müssen sie auch viele belastende Inhalte für die KI-Modelle aufbereiten. Diese beeinträchtigen die Psyche der Niedrigstlohn-Arbeiter:innen nachhaltig.
Titelbild: Hanna Barakat & Archival Images of AI + AIxDESIGN / Data Mining 1 / Licenced by CC-BY 4.0
Benötigen Sie weitere Informationen? Vereinbaren Sie einen Beratungstermin:
