KI-generierte Influencer und Inhalte überschwemmen soziale Medien wie Instagram und TikTok, wobei sie sowohl für Marketing als auch für die Verbreitung von Fehlinformationen, wie im Falle der Flutkatastrophe in Brasilien, genutzt werden. Die einfache und kostengünstige Erstellung von KI-Inhalten, von harmlosen Tiervideos bis hin zu betrügerischen Krypto-Werbung, wirft ethische Fragen bezüglich Kennzeichnung, Manipulation und dem Umgang der Plattformen mit dieser neuen Form von Content auf. Die Schwierigkeit, KI-generierte Inhalte von realen Inhalten zu unterscheiden, stellt eine zusätzliche Herausforderung dar.
Künstlich intelligente Influencer, sogenannte KI-Influencer, sind ein zunehmend präsentes Phänomen auf Social-Media-Plattformen wie Instagram, TikTok und Facebook. Wie Cryptopolitan berichtet, handelt es sich dabei um computergenerierte Avatare, die wie menschliche Influencer agieren, indem sie Inhalte posten, mit Followern interagieren und für Produkte werben.
Die wachsende Popularität von KI-Influencern ist auf verschiedene Faktoren zurückzuführen. Zum einen sind sie im Vergleich zu menschlichen Influencern kostengünstiger und flexibler einsetzbar. Sie können rund um die Uhr Inhalte erstellen und sind nicht an physische Grenzen gebunden. Zum anderen bieten sie Marken die Möglichkeit, ihre Zielgruppe präzise anzusprechen, da ihre Persönlichkeit und ihr Aussehen an die jeweiligen Marketingziele angepasst werden können.
Die Forschung von Jiaru Tang und Patrik Wikström, veröffentlicht in The Conversation, zeigt, dass die Erstellung von KI-generierten Inhalten für viele zu einem lukrativen Geschäft geworden ist. Plattformen wie TikTok fördern virale Inhalte, und einige Nutzer nutzen KI-Tools, um diese Programme auszunutzen. So finden sich beispielsweise auf TikTok unzählige KI-generierte Videos von Tieren, die den gleichen Tanz aufführen, wobei jedes Video Millionen von Aufrufen generiert. Dies liegt laut The Conversation an den Empfehlungen der Plattform selbst, die zu "kontinuierlichem Teilen von frischen und vielfältigen Inhalten" rät, die "kein großes Produktionsbudget erfordern".
Während Plattformen wie Spotify und YouTube aktiv gegen KI-generierte Inhalte vorgehen, toleriert TikTok diese Inhalte bisher, da sie nicht als "signifikanter Schaden" eingestuft werden. Solange Nutzer durch Videos scrollen und Werbung sehen, generieren die Plattformen Einnahmen. Es entsteht sogar eine ganze Industrie von Personen, die anderen beibringen, wie man mit günstigen KI-Inhalten Geld verdient, wie The Conversation berichtet.
Die Verbreitung von KI-generierten Inhalten beschränkt sich jedoch nicht nur auf harmlose Tiervideos. Wie Rest of World berichtet, wurden während der Flutkatastrophe in Brasilien im Mai 2024 zahlreiche KI-generierte Bilder in sozialen Medien verbreitet, die die Situation falsch darstellten. Dies verdeutlicht das Potenzial von KI-generierten Inhalten zur Verbreitung von Fehlinformationen, insbesondere in Krisensituationen.
Die Verwendung von KI zur Erstellung von Inhalten wirft auch ethische Fragen auf. The Teacup Attic diskutiert die Schwierigkeit, KI-generierte Bilder von realen Fotos zu unterscheiden und die Notwendigkeit, diese Bilder als solche zu kennzeichnen. Auch die Verwendung von KI zur Manipulation der öffentlichen Meinung, wie von 404 Media im Zusammenhang mit der App "Impact" beschrieben, wirft Bedenken auf.
Darüber hinaus berichtet Business Insider über die Verwendung von KI zur Erstellung von Spam-Bots in sozialen Medien, die betrügerische Kryptowährungen und NFTs bewerben. Dies zeigt, dass KI-Technologien auch für kriminelle Aktivitäten missbraucht werden können.
Die zunehmende Verbreitung von KI-Influencern und KI-generierten Inhalten stellt Social-Media-Plattformen vor neue Herausforderungen. Es bleibt abzuwarten, wie diese Plattformen mit dem Balanceakt zwischen der Förderung von Engagement und der Bekämpfung von Fehlinformationen und Manipulation umgehen werden.
Quellen: - Cryptopolitan: AI influencers flood Instagram - The Conversation: ‘Side job, self-employed, high-paid’: behind the AI slop flooding TikTok and Facebook - Rest of World: Brazil’s flood disaster set off a torrent of AI misinformation - The Teacup Attic: The Artistic Revolution: AI’s Impact on Social Media Imagery - 404 Media: AI-Powered Social Media Manipulation App Promises to 'Shape Reality' - Business Insider: Scientists found more than 1,000 AI spam bots trying to scam people and steal their social media profiles — and regulators can't keep up - Instagram: newshub.ai - Quartz: Explicit AI girlfriend chatbot ads are flooding Facebook and Instagram
