Gefälschte Freunde und die reale Bedrohung durch KI-generierte Influencer

Gefälschte Freunde und die reale Bedrohung durch KI-generierte Influencer

Von Carrie Arnold

7. Juli 2022 - Auf den ersten Blick sieht Kyras Instagram-Profil aus wie das eines jeden anderen Influencers. Laut ihrer Bio ist sie eine Traumjägerin und ein Model. Die 22-Jährige aus Mumbai, Indien, ist dünn, hellhäutig und konventionell attraktiv. Sie macht Selfies auf der Toilette und beschwert sich über die Unannehmlichkeiten des modernen Flugverkehrs. Aber es gibt einen Haken: Sie ist nicht echt.

Kyra ist nur die jüngste einer wachsenden Zahl von Instagram-Influencern, die von künstlicher Intelligenz erzeugt werden. Mit nur 23 Beiträgen hat Kyra bereits 113.000 Follower angehäuft - eine Zahl, die die Online-Präsenz anderer KI-Influencer wie Miquela (mit 3 Millionen Followern), Shudu, Blawko und Imma in den Schatten stellt. Trotz ihrer Ursprünge in der Fantasie von Vermarktern und Programmierern kleiden sich alle Meta-Influencer in einen dünnen Mantel der Authentizität.

In einem Beitrag vom Mai auf LinkedIn schrieb Kyras Schöpfer, Himanshu Goel, Business Head bei TopSocial India: "Seit ihrem ersten Beitrag ist sie in die Berge, an die Strände und zu den Festungen von Jaipur gereist. Sie hat ein Modeshooting gemacht, am Valentinstag mit ihren Fans interagiert und sogar Yoga gemacht! Kyras Reise hat gerade erst begonnen und es gibt noch viele weitere Abenteuer und Geheimnisse, die es zu enthüllen gilt."

Kyra ist eine fiktive Figur, die aus computergenerierten Bildern besteht und für die eine Geschichte geschrieben wird. Für einige Psychologen ist das Auftauchen von KI-Influencern jedoch das jüngste Beispiel für einen besorgniserregenden Trend, bei dem Social-Media-Plattformen das Wohlbefinden und das Körperbild junger Menschen auf der ganzen Welt manipulieren.

Social-Media-Modelle

"Dies wird eine ganze Reihe neuer Schönheitsideale schaffen, die realistisch erscheinen", sagt Sophia Choukas-Bradley, PhD, klinische Psychologin und Forscherin an der Universität von Pittsburgh. "Und da sie von KI generiert werden, können sie so manipuliert werden, dass sie sehr realistisch sind, aber unmögliche Körpernormen zeigen."

Laut Jasmine Fardouly, Sozialpsychologin an der University of New South Wales in Sydney, Australien, vergleichen sich die Menschen ständig mit ihrem Umfeld. Und diese Vergleiche erfolgen automatisch und sind weit verbreitet.

"Von klein auf haben wir die Vorstellung verinnerlicht, dass es wirklich wichtig ist, körperlich attraktiv zu sein, denn dann wird man erfolgreich und glücklich sein und alles wird wunderbar sein. Aber diese Schönheitsideale sind so spezifisch, dass nur sehr wenige Menschen sie tatsächlich erreichen können", sagt sie.

Der Mensch ist ein soziales Wesen, und das macht Sinn, sagt Fardouly. Die sozialen Bindungen, die es uns ermöglicht haben, als Spezies zu gedeihen, bedeuten auch, dass wir uns ständig mit den Menschen um uns herum vergleichen, um zu sehen, wie wir abschneiden. Schon der Anblick eines Fotos einer anderen Person - selbst eines völlig Fremden - lädt zu Vergleichen ein, sagt sie.

Werbefachleute machen sich diesen Teil der menschlichen Natur schon lange zunutze, erklärt Choukas-Bradley. Wenn wir ein Foto oder ein Video einer Person sehen, die wir bewundern oder die wir nachahmen möchten, ist das eine einfache und wirkungsvolle Methode, um Menschen zum Kauf dessen zu bewegen, was diese Person verkauft. In den 1900er Jahren nutzte die Werbung Prominente, um Schönheitsideale zu schaffen und die Produkte zu verkaufen, die man brauchte, um diesen Standards gerecht zu werden.

Für die meisten von uns, so Choukas-Bradley, waren diese Berühmtheiten aus unserem täglichen Leben verschwunden. Wir liefen ihnen nicht im Supermarkt über den Weg oder sahen sie in schmuddeligen Sweatshirts ohne Make-up. Dennoch haben Psychologen herausgefunden, dass die perfekt aussehenden Bilder, die wir auf den Seiten von Hochglanzmagazinen, im Fernsehen und auf Plakatwänden sahen, einen dramatischen Einfluss darauf hatten, wie die Menschen über ihren eigenen Körper dachten. Eine 1999 in der Fachzeitschrift Pediatrics veröffentlichte Umfrage unter 548 Mädchen im Teenageralter ergab, dass die Lektüre von Modemagazinen bei zwei Dritteln der Befragten die Vorstellung vom "idealen" Körper beeinflusste und 47 % dazu brachte, abnehmen zu wollen.

Eine weitere Studie, die 2003 im Journal of Adolescent Health veröffentlicht wurde, ergab, dass Mädchen, die häufig Modemagazine lesen, siebenmal häufiger eine Diät machen, um Gewicht zu verlieren, und sechsmal häufiger zu extremen, ungesunden Gewichtsreduzierungsmaßnahmen wie der Einnahme von Diätpillen oder Abführmitteln greifen. Ein Übersichtsartikel des Körperbildforschers Michael Levine, PhD, und Kollegen aus dem Jahr 2010 zeigte einen konsistenten, starken Zusammenhang zwischen der Exposition gegenüber Massenmedien und einem negativen Körperbild sowie Essstörungen auf.

"Wir sind dem Nachweis eines kausalen Zusammenhangs zwischen der Betrachtung dünner, idealisierter Bilder und einem schlechteren Körpergefühl vor allem bei jungen Frauen so nahe wie möglich gekommen", sagt Jennifer Mills, PhD, klinische Psychologin an der York University in Ontario, Kanada.

Veränderte Bilder

Mit dem Aufkommen digitaler Bearbeitungsprogramme wie Photoshop und dem Aufkommen der sozialen Medien wuchs auch das Bewusstsein für die Schädlichkeit von Bildern in den Massenmedien. Auf einer Ebene, so Jennifer Harriger, PhD, Psychologin an der Pepperdine University in Kalifornien, sind die Bilder, die man in den sozialen Medien sieht, eine Erweiterung der Bilder, die man in der Werbung sieht. Sie propagieren die gleichen Schönheitsideale und verkaufen oft die gleichen Produkte. Und obwohl viele in den sozialen Medien gerne so tun, als seien ihre Fotos spontane Schnappschüsse, ist es in Wirklichkeit so, dass die meisten Influencer ihre Bilder mit Photoshop, digitalen Filtern und mehr stark bearbeiten.

Es überrascht nicht, dass immer mehr Untersuchungen zeigen, dass soziale Medien genauso stark mit einem negativen Körperbild und Essstörungen verbunden sind wie traditionelle Massenmedien. Was die sozialen Medien potenziell noch schwieriger macht, erklärt Mills, ist die Tatsache, dass es sich bei den gezeigten Bildern nicht nur um Prominente, sondern auch um Klassenkameraden und Arbeitskollegen handelt. Erschwerend kommt hinzu, dass sich die Bilder ständig ändern und auf die Interessen der einzelnen Personen zugeschnitten sind.

"Früher konnte man eine Ausgabe von Cosmo in die Hand nehmen, und die nächste erschien erst in einem Monat, so dass man nur eine begrenzte Menge an Inhalten sehen konnte. In den sozialen Medien gibt es eine unendliche Menge", sagt sie.

Dies führt zu dem, was Forscher wie Choukas-Bradley als "perfekten Sturm" bezeichnen, bei dem Bilder von idealisierten Körpern mit der weiblichen Jugendkultur zusammenkommen, um die Bedeutung eines Körpertyps zu betonen, der unmöglich zu erreichen ist.

"Für mich ist das ein Beispiel dafür, wie ein Körper in unserer Gesellschaft zu einer Quelle von potenziellem Kapital und sozialer Mobilität geworden ist", sagt Rachel Rodgers, PhD, Psychologin an der Northeastern University in Boston. "Sie propagieren nicht nur die Idee, dass man so aussehen sollte, sondern auch, dass man so aussehen könnte, wenn man nur die Zeit, das Geld und die Energie für die richtigen Produkte und Dienstleistungen aufwenden würde. Dass es eine starke moralische Verpflichtung gibt, so auszusehen.

Whistleblower im Bereich der sozialen Medien wie Frances Haugen - die vor dem Kongress darüber ausgesagt hat, wie Social-Media-Seiten Kindern schaden - haben aufgedeckt, dass Unternehmen wie Meta (zu dem Facebook und Instagram gehören) und TikTok sich der Auswirkungen ihrer Plattformen auf die Gesundheit und das Wohlbefinden ihrer jüngsten Nutzer durchaus bewusst sind, erklärt Harriger.

Einige Länder haben versucht, dieses Problem durch Gesetze zu lösen. Im Juni 2021 verabschiedete die norwegische Legislative mit überwältigender Mehrheit ein Gesetz, das Influencer und Werbetreibende dazu verpflichtet, einen Haftungsausschluss zu veröffentlichen, der zeigt, wenn ein Foto digital verändert wurde. Obwohl diese Hinweise gut gemeint sind, haben Studien gezeigt, dass sie keine Auswirkungen auf unsere Wahrnehmung der Körper auf den Fotos und auf unseren Wunsch haben, so auszusehen wie sie.

Der Grund dafür ist, dass unser Gehirn diese Bilder zunächst auf einem automatischen und emotionalen Weg verarbeitet. Möglicherweise sind wir uns nicht einmal bewusst, dass wir diese Vergleiche anstellen, weil sie so schnell und ohne bewusstes Nachdenken ablaufen, erklärt Fardouly. Wir können Ausschlussklauseln erst später verarbeiten, und zwar über einen zweiten neuronalen Weg, der langsamer ist und eher Sekunden als Millisekunden dauert. Aber dann hat sich das Bild bereits festgesetzt.

Laut Fardouly und Choukas-Bradley gibt es Forschungsergebnisse über KI-Beeinflusser. Aber alle Experten, die mit dem Arzt sprachen, sagten, dass ihre jahrelange Arbeit darauf hindeutet, dass die Tatsache, dass diese Influencer computergeneriert sind, wenig Einfluss darauf haben wird, wie wir ihre Körper wahrnehmen.

"Die Menschen werden immer noch so aussehen wollen. Sie werden immer noch Vergleiche mit diesen Bildern anstellen, und das wird dazu führen, dass sie sich schlecht fühlen", sagt Fardouly.

Was sehen Sie sich an?

Bislang haben KI-Influencer wie Kyra und Miquela bestehende Schönheitsideale aufgegriffen, anstatt die Grenzen dessen, was die Gesellschaft als schön bezeichnet, zu hinterfragen. Das Ergebnis ist, dass sie eine enge Auswahl an Körperformen und -größen noch weiter verfestigen. Die Tatsache, dass sie nicht echt sind, macht keinen großen Unterschied.

Mills hofft, dass KI-Influencer den echten Influencern, die ihr Leben nach den Launen von Algorithmen und Werbetreibenden ausrichten, eine Atempause verschaffen könnten. "Ein Influencer zu sein, ist wirklich schwer. Man muss immer interessante Dinge tun und gut aussehen. Es ist der perfekte Job für ein künstlich geschaffenes Wesen, weil es nicht das Leben eines normalen Teenagers ist", sagt Mills.

Digitale Influencer sind natürlich auch unbezahlt, altern nie so wie reale Personen und sind frei von den Skandalen, in die andere Prominente manchmal verwickelt werden.

Rodgers ist der Meinung, dass man immer noch zu viel Geld damit verdienen kann, die Leute zum Klicken, Scrollen und Kaufen zu bewegen. Sie ist der Meinung, dass man sich besser auf die Algorithmen konzentrieren sollte, die die Bilder steuern, die wir sehen.

So wie es jetzt funktioniert, kann man Instagram nicht sagen, was man nicht sehen möchte, betont sie. Stattdessen muss man seinen Feed bewusst mit den Dingen füllen, die man sich ansehen möchte.

"Die Plattformen tragen eine große Verantwortung für die Sicherheit und das Wohlergehen ihrer Nutzer", sagt Rodgers, "und das sind im Grunde alle Menschen auf der Welt."

Hot