Spätestens seit ChatGPT erlebt künstliche Intelligenz einen enormen Aufschwung in der breiten Bevölkerung. Davon wird sicherlich auch indirekt die Bilder-KI Midjourney profitiert haben, die sich über viel Zuwachs in jüngster Zeit freuen konnte. Obwohl „freuen“ in diesem Fall wohl fehlformuliert ist. Denn man hat nun offiziell bekannt gegeben, dass man den Service komplett kostenpflichtig macht. Grund dafür: die missbräuchliche Community.

Midjourney nur noch kostenpflichtig

Bisher konnte man nach der Installation von Midjourney eine kostenfreie Testphase genießen. Dort konnten Userinnen und User ihrer Kreativität freien Lauf lassen und sich etwa einen rotwangigen Elon Musk auf einem Einrad samt Affen auf dem Kopf von der Bilder-KI generieren lassen. Wer die Werke des Programms auch kommerziell nutzen wollte, war auf einen entsprechenden Premiumzugang angewiesen. Dasselbe gilt für all jene, die unbegrenzt viele Bilder mit der KI erstellen wollten. Doch für die meisten Neugierigen reicht sicherlich die kostenfreie Option – doch die wird nun abgeschafft.

Laut Midjourney-CEO David Holz habe das den Hintergrund, dass sich eine Flut aus neuen Nutzerinnen und Nutzern ergeben habe, die sich Wergwerfaccounts einrichten. Mithilfe verschiedener Mailadressen erstellen sie sich diverse Logins, um viele Bilder mit Midjourney zu generieren. Infolgedessen kam es zu einer Überlastung der Server und die Bezahlkundschaft konnte den Dienst nicht mehr nutzen. Dem will man mit der Entscheidung vorbeugen. Doch dieser radikale Schritt hat auch einen weiteren Grund.

Missbrauch und Deepfakes

Hinzu kommt, dass Midjourney immer besser wird – und teilweise zu gut. So teilte der Journalist Eliot Higgins auf Twitter eine Aufnahme von Donald Trump bei einer Festnahme. Diese Bilder wurden mithilfe der KI generiert, doch können für das ungeübte Auge täuschend echt aussehen.

An dieser Stelle befindet sich ein externer Inhalt von Twitter, der von unserer Redaktion empfohlen wird. Er ergänzt den Artikel und kann mit einem Klick angezeigt und wieder ausgeblendet werden.

Ich bin damit einverstanden, dass mir dieser externe Inhalt angezeigt wird. Es können dabei personenbezogene Daten an den Anbieter des Inhalts und Drittdienste übermittelt werden.

Da es sich zumindest in den USA um ein politisch sensibles Thema handelt, befragte The Verge Verantwortliche bei Midjourney zu ihrer Content-Moderation und den Nutzungsbedingungen. Daraus ging hervor, dass man beim KI-Generator etwa bestimmte Wörter banne. Ein Blick auf die genauen Vereinbarungen legt offen, dass sich das Programm hier in Sachen Moderation in einem ungefähren Mittelfeld bewege.

Zudem gab man zu, weitere Verbesserungen vornehmen zu wollen, sich jedoch gegenwärtig erst einmal für die Beendigung des Probeabonnements entscheiden musste. Gerade wenn die KI immer besser wird, sei es wichtig, dass diese nicht missbräuchlich verwendet würde. Inzwischen kommt man zwar mit dem Befehl „Generiere ein Bild von Trump bei seiner Verhaftung“ nicht weiter. Jedoch erhält man laut Test bei The Verge mit „Generiere ein Bild von Trump in Handschellen und umgeben von Polizisten“ nach wie vor dasselbe Ergebnis. Ehe bessere Vorkehrungen zur Verfügung stehen, wird Midjourney vorerst nur für bezahlende Kund*innen nutzbar sein.

Quelle: The Verge, Twitter / @EliotHiggins

Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.