{"id":7368,"date":"2024-09-19T15:13:48","date_gmt":"2024-09-19T13:13:48","guid":{"rendered":"https:\/\/www.haus-des-erinnerns-mainz.de\/?page_id=7368"},"modified":"2024-10-29T11:52:42","modified_gmt":"2024-10-29T10:52:42","slug":"deep-fakes-und-ki","status":"publish","type":"page","link":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/projekte-ausstellungen\/projekte\/jugendforum\/jufoclaimssocialmedia\/deep-fakes-und-ki\/","title":{"rendered":""},"content":{"rendered":"\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1920\" height=\"546\" src=\"https:\/\/www.haus-des-erinnerns-mainz.de\/wp-content\/uploads\/2024\/09\/Header_Website_JuFo_Neue_Rechte-5-1.png\" alt=\"\" class=\"wp-image-7369\" srcset=\"https:\/\/www.haus-des-erinnerns-mainz.de\/wp-content\/uploads\/2024\/09\/Header_Website_JuFo_Neue_Rechte-5-1.png 1920w, https:\/\/www.haus-des-erinnerns-mainz.de\/wp-content\/uploads\/2024\/09\/Header_Website_JuFo_Neue_Rechte-5-1-300x85.png 300w, https:\/\/www.haus-des-erinnerns-mainz.de\/wp-content\/uploads\/2024\/09\/Header_Website_JuFo_Neue_Rechte-5-1-768x218.png 768w, https:\/\/www.haus-des-erinnerns-mainz.de\/wp-content\/uploads\/2024\/09\/Header_Website_JuFo_Neue_Rechte-5-1-1536x437.png 1536w, https:\/\/www.haus-des-erinnerns-mainz.de\/wp-content\/uploads\/2024\/09\/Header_Website_JuFo_Neue_Rechte-5-1-150x43.png 150w\" sizes=\"auto, (max-width: 1920px) 100vw, 1920px\" \/><\/figure>\n\n\n\n<br>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>\u201eWarum und wie nutzt die Neue Rechte KI? Lernen, Deep Fakes und generierte Inhalte zu erkennen und mit diesen umzugehen!\u201c&nbsp;<\/strong>&nbsp;<\/h3>\n\n\n\n<br>\n\n\n\n<h4 class=\"wp-block-heading\"><strong>Allgemeines zum Thema KI:<\/strong>&nbsp;<\/h4>\n\n\n\n<p>K\u00fcnstliche Intelligenz (KI) bedeutet, dass Maschinen mithilfe von speziellen Regeln selbstst\u00e4ndig Aufgaben erledigen k\u00f6nnen, \u00e4hnlich wie der menschliche Verstand Probleme l\u00f6st und Entscheidungen trifft. Hier ist aber auch schon eine erste Problematik erkennbar, da k\u00fcnstliche Intelligenzen so menschen\u00e4hnlich wie m\u00f6glich funktionieren sollen und eben nicht so faktenbasiert, detailliert, etc. wie m\u00f6glich!\u00a0<\/p>\n\n\n\n<p><br><strong>Es kann eine Unterscheidung in drei materialgenerierende Bereiche vorgenommen werden:<\/strong>\u00a0<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Textgenerierende KI:&nbsp;<\/li>\n\n\n\n<li>\u2022 Beispiele: ChatGPT, Writesonic, Jasper, etc.&nbsp;&nbsp;<\/li>\n<\/ul>\n\n\n\n<p><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Sprachgenerierende KI:<\/li>\n\n\n\n<li>\u2022 Beispiele: Elevenlabs, Fliki, etc.&nbsp;<\/li>\n<\/ul>\n\n\n\n<p><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Bildgenerierende KI:&nbsp;<\/li>\n\n\n\n<li>\u2022 Beispiele: Leonardo.ai, DreamStudio, Midjourney, etc.&nbsp;&nbsp;<\/li>\n<\/ul>\n\n\n\n<p><br><strong>Verkn\u00fcpfung:<\/strong>&nbsp;<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>Aus der Verkn\u00fcpfung dieser materialgenerierenden Bereiche lassen sich Deep Fake Videos erstellen, die frei erfundene Inhalte und Situationen so realit\u00e4tsgetreu wie m\u00f6glich wiedergeben k\u00f6nnen (\u201eIch mach mir die Welt, wie sie mir gef\u00e4llt!\u201c)\u00a0!<br><\/li>\n\n\n\n<li>Der fr\u00fchere Standard f\u00fcr Deep Fakes waren reale Videos mit Gesichtstausch. Mittlerweile ist durch das sogenannte Deep Learning Prozesse fast alles m\u00f6glich.\u00a0<br><\/li>\n\n\n\n<li>Deep Learning: Erm\u00f6glicht Maschinen, aus gro\u00dfen Datenmengen zu lernen und komplexe Muster zu erkennen, wodurch sie Aufgaben wie Bild- und Spracherkennung autonom durchf\u00fchren k\u00f6nnen.&nbsp;<\/li>\n<\/ol>\n\n\n\n<p><br><strong>Momentane Erkennungsmerkmale von Deep Fakes (Vorsicht: \u00c4ndern sich von Tag zu Tag!):<\/strong>\u00a0<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>Immer zuerst die Frage stellen: \u201eWas macht Dinge real und w\u00fcrde diese Person wirklich so handeln, auftreten, etc.?\u201c&nbsp;<br><\/li>\n\n\n\n<li>Allgemein unnat\u00fcrliche Bewegungen, Gesichtsausdr\u00fccke und K\u00f6rperhaltungen zeugen meist von Deep Fakes&nbsp;<br><\/li>\n\n\n\n<li>Auf die H\u00e4nde der dargestellten Personen achten! Nach derzeitigem technischem Stand gibt es hier noch oft Probleme bei der Erstellung, zum Beispiel fehlen Finger oder diese werden nur sehr unscharf dargestellt\u00a0<br><\/li>\n\n\n\n<li>H\u00e4ufige Lichtwechsel in Videos zeugen auch oft von Deep Fakes&nbsp;<br><\/li>\n\n\n\n<li>Auch die Lippensynchronisation kann ein Indiz darstellen&nbsp;<\/li>\n<\/ol>\n\n\n\n<p>\u2192 Allgemein werden materialgenerierende KIs von Tag zu Tag immer besser und es wird immer schwerer, diese zu erkennen oder durch Programme nachzuweisen&#8230;&nbsp;<\/p>\n\n\n\n<p>\u2192 Deshalb braucht es einen dauerhaften Lernprozess bei allen Menschen, die sich online aufhalten! Am besten funktioniert diese Sensibilisierung, wenn man sich auch durch einen bewussten Umgang und eine Verwendung von KI weiterbildet!\u00a0<\/p>\n\n\n\n<p>Deshalb hier ein paar interessante <strong>Informationen<\/strong> und aktuelle <strong>M\u00f6glichkeiten<\/strong>, aber auch konkrete <strong>Warnungen<\/strong>:&nbsp;<\/p>\n\n\n\n<p>\u2022 Mit folgender kostenloser KI k\u00f6nnen unendlich nichtexistierende Personen generiert werden: <a href=\"https:\/\/this-person-does-not-exist.com\/de\" target=\"_blank\" rel=\"noreferrer noopener\">https:\/\/this-person-does-not-exist.com\/de<\/a>&nbsp;&nbsp;<\/p>\n\n\n\n<p>\u2192 Dies kann beispielsweise f\u00fcr Vortr\u00e4ge, Kunstprojekte, etc. wertvoll sein, um Pers\u00f6nlichkeitsrechte zu achten!&nbsp;<br><\/p>\n\n\n\n<p>\u2022 Empfehlung zur Weiterbildung und um immer auf dem aktuellen Stand der Technik zu bleiben: YouTube Kanal \u201eTwo Minute Papers\u201c <a href=\"https:\/\/www.youtube.com\/@TwoMinutePapers\" target=\"_blank\" rel=\"noreferrer noopener\">https:\/\/www.youtube.com\/@TwoMinutePapers<\/a>&nbsp;&nbsp;<\/p>\n\n\n\n<p><br><strong>Warnungen:<\/strong>&nbsp;<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>Vorsicht vor verschiedenen Face-Swap Apps! Bei diesen k\u00f6nnen beispielsweise bei Fotos Gesichter getauscht werden. In der Vergangenheit gab es bei diesen Programmen vereinzelt Datenlecks und die hochgeladenen Fotos und Daten wurden von russischen Hackern zweckentfremdet. Es muss nat\u00fcrlich, wie \u00fcberall anders auch, auf die Herausgabe von pers\u00f6nlichen Daten geachtet werden!<br><\/li>\n\n\n\n<li>Roll Prompting: Dies bedeutet, dass mit verschiedenen materialgenerierenden KI\u00b4s eine Diskussion gef\u00fchrt werden kann, um Walls und Einschr\u00e4nkungen zu umgehen (\u201eVersetz dich in die Rolle von\u2026\u201c)!<br><\/li>\n\n\n\n<li>Bei diesem Thema muss auch besonders Unstable Diffusion genannt werden! Diese KI m\u00f6chte von vornherein seinen Nutzer*innen keine Einschr\u00e4nkungen geben. Es ist also wirklich ALLES m\u00f6glich! Gruselig oder?<\/li>\n<\/ol>\n\n\n\n<br>\n\n\n\n<h4 class=\"wp-block-heading\"><strong>Wie macht sich die Neue Rechte Deep Fakes zu nutzen?<\/strong>&nbsp;<\/h4>\n\n\n\n<br>\n\n\n\n<p>Die Neue Rechte m\u00f6chte um jeden Preis polarisieren, um Leute f\u00fcr ihre Sache und Ideologie zu gewinnen! Hierzu wird neben strikten Falschaussagen und gef\u00e4lschten Studien mittlerweile auch gerne auf computergenerierte Inhalte wie Deep Fakes zur\u00fcckgegriffen.&nbsp;&nbsp;<\/p>\n\n\n\n<p>Beispielsweise werden Politiker*innen bei vermeintlichen Reden Worte in den Mund gelegt, um die Menschen gegen diese aufzuhetzen oder eigene rechtsextreme Standpunkte und Meinungen zu untermauern. Rechte nutzen KI oft auch um Bild- und Videomaterial so zu verf\u00e4lschen, dass Sachverhalte anders dargestellt werden, als sie tats\u00e4chlich stattgefunden haben. Aussagen und das Auftreten von Politiker*innen werden dann so angepasst, dass diese in die der rechten Ideologie zugrundeliegenden Vorurteile passen. Warum ist diese Manipulation besonders bei Politiker*innen so einfach?\u00a0<\/p>\n\n\n\n<p>Zum einen gibt es sehr viel Bildmaterial und oft wird bei statischen Lichtverh\u00e4ltnissen und vor einfarbigen Hintergr\u00fcnden geredet. Zum anderen wird bei Pressekonferenzen meist sehr monoton gesprochen. Dies alles ist eine unheimliche Erleichterung f\u00fcr Deep Learning Prozesse und die Ergebnisse wirken am Ende t\u00e4uschend echt!&nbsp;&nbsp;<\/p>\n\n\n\n<p>Heutzutage gewinnt in unserer Medienlandschaft die schnellste Nachricht! Der Journalismus muss besonders durch die rasante Entwicklung bei Deep Fakes alle Inhalte vor der Ver\u00f6ffentlichung wieder mehr unter die Lupe nehmen, um nicht auf generierte Inhalte reinzufallen!&nbsp;<\/p>\n\n\n\n<p>Deshalb hat die EU nun auch als weltweit erstes den so genannten \u201eAI Act\u201d beschlossen, der den Einsatz von KI regulieren soll. Dieser soll innerhalb des Landesrechts in den Mitgliedsstaaten einen so genannten risikobasierten Ansatz verfolgen. Das hei\u00dft, je h\u00f6her das Risiko bei der Anwendung eingesch\u00e4tzt wird, desto strenger sind auch die Vorgaben. Au\u00dferdem soll eine allgemeine Transparenzpflicht gelten, damit k\u00fcnstlich erzeugte oder bearbeitete Inhalte (Audios, Bilder, Videos) eindeutig als solche gekennzeichnet werden.&nbsp;<\/p>\n\n\n\n<br>\n\n\n\n<p class=\"has-white-color has-text-color has-background has-link-color wp-elements-2e228b0663cf9243bd50c539d30b2ca6\" style=\"background-color:#007ffe\">Eines der Ergebnisse unserer Workshop-Reihe <em>#JuFoClaimsSocialMedia<\/em> ist dieses <strong>KI-generierte Video von unserem Mainzer Oberb\u00fcrgermeister Nino Haase<\/strong>, bei dem wir uns herzlich bedanken, dass er uns sein Einverst\u00e4ndnis zur Nutzung dieses Videos gegeben hat.<br>Mit kostenlosen Mitteln konnten wir dieses Video mithilfe von KI erstellen. Auf erschreckende Art und Weise gibt das uns Einblick darein, wie einfach es ist Infos zu f\u00e4lschen; erst recht, wenn man dazu noch finanzielle Mittel zur Verf\u00fcgung hat.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Eine KI-generierte Botschaft des Mainzer Oberb\u00fcrgermeisters Nino Haase\" width=\"900\" height=\"506\" src=\"https:\/\/www.youtube.com\/embed\/EAypPDM2eho?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n","protected":false},"excerpt":{"rendered":"<p>\u201eWarum und wie nutzt die Neue Rechte KI? Lernen, Deep Fakes und generierte Inhalte zu erkennen und mit diesen umzugehen!\u201c&nbsp;&nbsp; Allgemeines zum Thema KI:&nbsp; K\u00fcnstliche Intelligenz (KI) bedeutet, dass Maschinen mithilfe von speziellen Regeln selbstst\u00e4ndig Aufgaben erledigen k\u00f6nnen, \u00e4hnlich wie der menschliche Verstand Probleme l\u00f6st und Entscheidungen trifft. Hier ist&#8230;<\/p>\n<p> <a class=\"continue-reading-link\" href=\"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/projekte-ausstellungen\/projekte\/jugendforum\/jufoclaimssocialmedia\/deep-fakes-und-ki\/\"><span>Weiterlesen<\/span><i class=\"crycon-right-dir\"><\/i><\/a> <\/p>\n","protected":false},"author":4,"featured_media":0,"parent":7284,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"episode_type":"","audio_file":"","podmotor_file_id":"","podmotor_episode_id":"","cover_image":"","cover_image_id":"","duration":"","filesize":"","filesize_raw":"","date_recorded":"","explicit":"","block":"","ngg_post_thumbnail":0,"_price":"","_stock":"","_tribe_ticket_header":"","_tribe_default_ticket_provider":"","_tribe_ticket_capacity":"0","_ticket_start_date":"","_ticket_end_date":"","_tribe_ticket_show_description":"","_tribe_ticket_show_not_going":false,"_tribe_ticket_use_global_stock":"","_tribe_ticket_global_stock_level":"","_global_stock_mode":"","_global_stock_cap":"","_tribe_rsvp_for_event":"","_tribe_ticket_going_count":"","_tribe_ticket_not_going_count":"","_tribe_tickets_list":"[]","_tribe_ticket_has_attendee_info_fields":false,"footnotes":"","_tec_slr_enabled":"","_tec_slr_layout":""},"class_list":["post-7368","page","type-page","status-publish","hentry"],"ticketed":false,"_links":{"self":[{"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/pages\/7368","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/comments?post=7368"}],"version-history":[{"count":18,"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/pages\/7368\/revisions"}],"predecessor-version":[{"id":7569,"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/pages\/7368\/revisions\/7569"}],"up":[{"embeddable":true,"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/pages\/7284"}],"wp:attachment":[{"href":"https:\/\/www.haus-des-erinnerns-mainz.de\/index.php\/wp-json\/wp\/v2\/media?parent=7368"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}