KI - Art Midjourney Stable Diffuison & Co Faszination versus Bedrohung

[pollux83]

Googles KI Gemini musste für einen Bugfix kurz nach dem Livegang wieder deaktiviert werden. Bei der Darstellung von Personen kam es zu einer "Überkompensierung" der Vielfältigkeit. Heißt, weiße Personen wurden konsequent durch andere Ethnien ersetzt, was zu einigen sehr merkwürdigen Bildern geführt hat.
(hier Pilgerväter, Wehrmachtsoldat und Wikinger)


Der Grund dafür soll wohl ein rassistischer Mitarbeiter sein, der eine gut 10 Jahre alte Historie von antiweißen Kommentaren hat.

Die Sache dabei ist ja, dass sowas nicht ausversehen passieren kann, da die KI normalerweise vom Internet lernt. Hier muss also gezielt eine manipulierte Datenmenge zum Lernen genutzt worden sein, was kein gutes Licht auf den Googlesuchalgorithmus wirft.

[Infinitas]

eine gesunde KI Skepsis ist für so manchen Sci Fi Liebhaber denke ich mal vollkommen vertretbar. KI-Syteme könnten übrigens auch schnell in Situationen kommen, in denen sie vollkommen autonom ethisch-moralische Entscheidungen treffen müssten.- Dass dies nach hinten losgehen könnte, haben X Filme und Bücher bereits fantastisch dargestellt.

Letzten Post zur Kunst KI finde ich sogar witzig - richtet ja keinen Schaden an und ja, die Geschichte des weißen Mannes scheint zu dominieren, dabei gibt es auch Geschichtsträchtiges aus anderen Ethnien, wobei da die Geschichte des weißen Mannes oft zu dominieren scheint. Ob das nun rassistisch ist, liegt im Auge des Betrachters. Ich bevorzuge es jedoch geschichtliche Faken so zu lassen wie sie sind.

Ich denke auch das die KI hier mit einer gezielten Datenmenge gelernt hat, also definitiv manipuliert.

[DragoMuseveni]

richtet ja keinen Schaden an und ja, die Geschichte des weißen Mannes scheint zu dominieren, dabei gibt es auch Geschichtsträchtiges aus anderen Ethnien, wobei da die Geschichte des weißen Mannes oft zu dominieren scheint.

Unter normale Umtänden würde ich da immer einen Restzweifel haben.
Beispielsweise wenn es um die Darstellung "einer Familie" usw. geht. Da kann ein Bias aus den Trainingsdaten kommen.

Aber dieser Fall ist wirklich aufsehenerregend grotesk.
Gleichgültig ob man hier gute Absichten hatte oder nicht, es erwecket überdeutlich den Anschein, eine bestimmte Gruppe von Personen gezielt verschwinden lassen zu wollen.

Dein Argument wäre nur dann nachvollziehbar, wenn z. B. der Prompt "Konfuzius unterrichtet einen Schüler" ebenfalls "den weißen Mann" zeigen würde.
Das wäre dann ebenfalls nicht mehr aus den Trainingsdaten erklärbar.

[pollux83]

Bis zu einem Ki generierten Film ist es nicht mehr weit.

Man erkennt zwar meistens noch die KI, aber die unschärferen Szenen sehen praktisch echt aus.

[Wraith Leader]

Bis zu einem Ki generierten Film ist es nicht mehr weit.

Man erkennt zwar meistens noch die KI, aber die unschärferen Szenen sehen praktisch echt aus.

Oh nein.....

[pollux83]

Letzten Post zur Kunst KI finde ich sogar witzig - richtet ja keinen Schaden an und ja, die Geschichte des weißen Mannes scheint zu dominieren, dabei gibt es auch Geschichtsträchtiges aus anderen Ethnien, wobei da die Geschichte des weißen Mannes oft zu dominieren scheint. Ob das nun rassistisch ist, liegt im Auge des Betrachters. Ich bevorzuge es jedoch geschichtliche Faken so zu lassen wie sie sind.

Solange man das Angebot hat und es so offensichtlich ist, verursacht es keinen Schaden. Aber Google hatte schon Vorwürfe, sie würden den Suchalgorithmus manipulieren und dort hat Google ein Monopol.
Wenn du es nutzen müsstest oder die Manipulation nicht offensichtlich ist, dann schadet es sehr wohl.

Und wenn du zweifel hat, ob das rassistisch ist, dann schau dir ruhig dieses Video an. Da wird auf alles mit mehr Beispielen eingegangen, als ich es getan habe.

https://www.youtube.com/watch?v=4KV2Dt8ZTuI

Die KI hat dich sogar gelobt, wenn du dich als links identigiziert hat und gerügt, wenn du rechts warst.

[Infinitas]

Solange man das Angebot hat und es so offensichtlich ist, verursacht es keinen Schaden. Aber Google hatte schon Vorwürfe, sie würden den Suchalgorithmus manipulieren und dort hat Google ein Monopol.
Wenn du es nutzen müsstest oder die Manipulation nicht offensichtlich ist, dann schadet es sehr wohl.

Und wenn du zweifel hat, ob das rassistisch ist, dann schau dir ruhig dieses Video an. Da wird auf alles mit mehr Beispielen eingegangen, als ich es getan habe.

https://www.youtube.com/watch?v=4KV2Dt8ZTuI

Die KI hat dich sogar gelobt, wenn du dich als links identigiziert hat und gerügt, wenn du rechts warst.

Ja sicher, wenn dies absichtlich verschleiert würde, würde auch ich dies als schädlich / unlauter betrachten. Rassismus - Aus dem Gesichtspunkt heraus eine Ethnie systematisch auszugrenzen, kann man dies unterstellen. Ich denke, es kommt hierbei immer auf die Intention des Entwicklers oder des Künstlers an. Es kommt auch darauf an, ob Gemini als ein Kunstprojekt gesehen wird oder als eine ideologische Manipulation. Kunst im Allgemeinen hatte ja schon immer den Teil-Anspruch Alltagsdenkmuster zu überflügeln und einen Perspektivischen wechsel bei der Ansicht hervorzurufen. Bei einer KI bin ich mir jedoch nicht so sicher, ob sie ideologisch gefüttert werden sollte, als Trekki wünsche ich mir eher logische und sinnvolle Lösungen, diese können rein ideologisch betrachtet natürlich unterschiedlich sein.

[Albedo]

Ich nutze Stable Diffusion regelmäßig. Eine geile Webanwendung.

[pollux83]

Ach ja, wer es noch nicht mitbekommen hat. Auf Facebook antworten Kommentarbots momentan auf eine Masse KI-generierter Bilder. Hier einige Beispiele.

https://www.youtube.com/watch?v=O3AeOYB96fM

https://www.youtube.com/watch?v=C6L07VdZO4o

Ja, die sozialen Medien sind tot. Menschen sind da inzwischen in der Minderheit.


Auf Youtube treiben diese Bilder bereits auch ihr Unwesen.

[Albedo]

Menschen sind da inzwischen in der Minderheit.

Das trifft auch auf das SciFi-Forum zu. Kaum einer schreibt noch was.

[Wraith Leader]

Das trifft auch auf das SciFi-Forum zu. Kaum einer schreibt noch was.

Leider sind Foren nicht mehr ganz zeitgemäß in Zeiten von (a)sozialen Medien.
Ich selbst bin nicht so der Schreiberling. Lese aber viel hier mit.

[pollux83]

Das trifft auch auf das SciFi-Forum zu. Kaum einer schreibt noch was.

Aber die wenigen Interaktionen sind wenigstens noch von Menschen und nicht wie auf Facebook zwischen Bots.

Siehe dazu auch https://de.wikipedia.org/wiki/Dead_Internet_Theory

Persönlich würde ich sagen, die Theorie trifft auf Teile des Internets zu. Die "sozialen" Medien haben halt kaum Interesse dies abzustellen, da dann auf einmal ganz viele "Nutzer" wegfallen würden. Auf Deviantart kann man die KI-Flut auch gut beobachten. Da werden so manche Bilder in Massenproduktion hochgeladen. Die Qualität ist dabei meist nur mittelmäßig bis schlecht und selbst die guten Bilder haben die typischen KI Schwächen.

Was ich mir wünsche sind hybride Bilder, wo manche Teile von der KI erstellt werden. Fell sieht z.B. wirklich gut aus und ist nur mit viel Aufwand zu zeichnen. Den Rest übernimmt wie gewohnt der Künstler.

[Albedo]

Jedenfalls finde ich KI Kunst überflüssig.

Ich betrachte das nicht als Kunst. Es ist vielmehr die Realisierung von Wunschträumen für die jenigen, die nicht vom Fach sind oder das Talent haben.

Irgendwo ist immer der Anfang... Die Wurzeln des Holodecks!

[Albedo]

Mit Flux fand die nächste Evolution der KI-Bildgenerierung statt. Texte sollen ohne Fehler möglich sein.