Smart Weekly Business
  • Produkte
  • Handel
  • Personen
  • Fakten
  • Test
  • Jetzt abonnieren
  • Abmelden
  • Login
Smart Weekly Business
Smart Weekly Business
  • Produkte
  • Handel
  • Personen
  • Fakten
  • Test
  • Jetzt abonnieren
  • Abmelden
  • Login
  • Allgemein
  • Fakten

Digitaler Jugendschutz mit künstlicher Intelligenz

  • 24. Februar 2022
  • Sarah Alexandra Fechler
Foto: Mati Mango/Pexels
Total
0
Teilens
0
0
0

Fraunhofer SIT veröffentlicht Machbarkeitsstudie, die technische Möglichkeiten für besseren Schutz vor Missbrauch im Netz untersucht. Die Idee ist ein digitaler Jugendschutz mithilfe von künstlicher Intelligenz die Arbeit machen zu lassen.

Durch die Corona-Pandemie hat sich vieles im Sozialleben ins Digitale verlagert; auch Kinder und Jugendliche nutzen noch stärker als vorher digitale Dienste und Kommunikationstools. Gleichzeitig, so warnt die europäische Polizeibehörde Europol, steigt die Gefahr durch Cybergrooming.

Eine Machbarkeitsstudie des Fraunhofer-Instituts für Sichere Informationstechnologie SIT im Auftrag des Landes Hessen zeigt, welche Technologien dabei helfen können, Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien zu schützen. Ergebnis: Mithilfe künstlicher Intelligenz und Multimediaforensik können viele Delikte erkannt oder sogar unterbunden werden.

Cyberkriminalität ist auf dem Vormarsch

Laut polizeilicher Kriminalstatistik stieg die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent an. Auch Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, meldet der unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs (UBSKM).

Online-Dienste wie Messenger, soziale Medien, Chatforen von Online-Spielen und Ähnliches spielen hier eine besondere Rolle, denn sie ersetzen in der Corona-Krise noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche. Johannes-Wilhelm Rörig, der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs, forderte deshalb jüngst, dass Kinder gerade jetzt noch besser vor Missbrauch im Netz geschützt werden. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.

Digitaler Jugendschutz: KI verhindert Versand von Nacktbildern

Das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – ist auch unter Heranwachsenden verbreitet. Bei Minderjährigen kann das unbedachte Versenden von Nacktbildern zu Problemen führen, wie Mobbing oder Erpressung: einmal verschickt, können Nacktbilder unkontrolliert weitergeleitet werden. Viele Jugendliche wissen auch nicht, dass selbst das Weiterleiten von Nacktbildern Minderjähriger schon strafbar ist.

Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT in ihrer Machbarkeitsstudie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren. Mit dieser Art der künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten. „Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden“, sagt Studienleiter Prof. Martin Steinebach.

Schutz vor Online-Anbahnung von sexuellem Missbrauch

Auch vor Cybergrooming können neue Technologien Kinder und Jugendliche besser schützen. Cybergrooming bezeichnet die Kontaktaufnahme von Erwachsenen zu Minderjährigen in Chatrooms, Foren oder Online-Spielen mit dem Ziel, sexuellen Missbrauch an den Heranwachsenden zu begehen. Dabei geben die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Technologien lässt sich das Alter von Chat-Teilnehmenden einschätzen. Falls das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teilnehmenden zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.

Die ausführlichen Beschreibungen und Ergebnisse der technischen Untersuchungen sowie das Training des neuronalen Netzes haben die Wissenschaftlerinnen und Wissenschaftler des Fraunhofer SIT in der Machbarkeitsstudie beschrieben. Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.

Die Studie ist frei verfügbar unter www.sit.fraunhofer.de/jugendschutz.

Mehr smarte News

Wusstest du schon, dass das Digitalradio auf dem Vormarsch ist? Oder das mehr Leute zum Telefon greifen, statt im Internet nach Infos zu suchen? Mehr smarte Informationen aus der Branche findest du hier: Fakten.

Total
0
Teilens
Teilen 0
Tweet 0
Pin it 0
Schlagwörter
  • Fraunhofer-Institut
Sarah Alexandra Fechler

Sarah Alexandra ist leidenschaftliche Gamerin, Fotografin und Redakteurin für diverse Magazine wie SmartWeekly.de, CHIP FOTO-VIDEO, PhotoWeekly.de. Dort testet sie Kameras und probiert neue, smarte Gadgets aus.

Voriger Artikel
Nivona NICR 970 im Selbstversuch
  • Test

Nivona NICR 970: Feinster Kaffee-Genuss – Zuhause und im Büro

  • 24. Februar 2022
  • Anja Bethge
Artikel lesen
Nächster Artikel
HP Presence
  • Produkte

HP verbessert hybride Arbeitsumgebungen mit HP Presence

  • 24. Februar 2022
  • Ben Kraus
Artikel lesen
Auch interessant:
Artikel lesen
  • Fakten

Ist das Metaverse tot?

  • Ben Kraus
  • 29. Januar 2023
Heizungsthermostat wird zugedreht
Artikel lesen
  • Fakten

Energiesparen ohne Schimmelgefahr

  • Gastbeitrag
  • 23. Januar 2023
Artikel lesen
  • Fakten

Wie sicher ist mein Heimnetzwerk?

  • Ben Kraus
  • 22. Januar 2023
Smartphone wird zur Mobilitäts-Zentrale
Artikel lesen
  • Fakten

Smartphone wird zur Mobilitäts-Zentrale

  • Gastbeitrag
  • 21. Januar 2023
Top-Trends 2023 für die E-Mobilität: PV-Überschussladen, Plug&Charge und Lastmanagement
Artikel lesen
  • Fakten

Top-Trends 2023 für die E-Mobilität

  • Sarah Alexandra Fechler
  • 20. Januar 2023
Artikel lesen
  • Fakten

Brauche ich einen RFID-Schutz im Geldbeutel?

  • Ben Kraus
  • 15. Januar 2023
Artikel lesen
  • Fakten

Fünf Energiespartipps von Sharp Consumer Electronics

  • Sarah Alexandra Fechler
  • 9. Januar 2023
Artikel lesen
  • Fakten

Wie finde ich smarte Beleuchtung für mein Zuhause?

  • Ben Kraus
  • 8. Januar 2023
Mit dem Eco-Modus durch den Winter: Mit Features von Miele lassen sich Klima und Geldbeutel schonen
Artikel lesen
  • Fakten

Mit dem Eco-Modus durch den Winter: Mit Features von Miele lassen sich Klima und Geldbeutel schonen

  • Sarah Alexandra Fechler
  • 2. Januar 2023
Neueste Beiträge
  • Aufbruch ins Web3 mit Samsung Smartphones und Ledger Wallets
    Aufbruch ins Web3 mit Samsung Smartphones und Ledger Wallets
    • 29. Januar 2023
  • Ist das Metaverse tot?
    • 29. Januar 2023
  • Polestar ist erster offizieller Mobility-Partner der Ambiente
    Polestar ist erster offizieller Mobility-Partner der Ambiente
    • 28. Januar 2023
  • Teufel AIRY TWS
    Teufel AIRY TWS: Vier Farben und bis zu 26h Akkulaufzeit
    • 28. Januar 2023
  • Kingston USB-Sticks
    Vier Streitpunkte rund um den USB-Stick: Kingston antwortet
    • 28. Januar 2023
Kategorien
  • Allgemein (19)
  • Fakten (214)
  • Handel (293)
  • Personen (68)
  • Produkte (619)
  • Test (51)
  • Vorbilder (1)

Apps (80) ASUS (32) Audio (183) Bad (40) Bitkom (45) Braune Ware (172) Büro (151) DNT/FNT (58) Elektrik (57) Elektromobilität (35) Entertainment (57) Fitness (49) Gadgets (264) Gaming (87) Garten (39) Gesundheit & Beauty (88) IFA 2022 (59) Imaging (71) Küche (152) Miele (41) Mobile Devices (122) Nachhaltigkeit (90) Reinigen & Putzen (94) Samsung (71) Sicherheit (38) Smart Home (247) Smartphone (55) TV (112) Weiße Ware (183) Wohnzimmer (215)

Benutzername:
Passwort:
Eingeloggt bleiben
Registrieren
Passwort vergessen?
Smart Weekly Business
  • Kontakt
  • Datenschutz
  • Impressum
  • AGB
  • Widerruf
© 2023: Smart Weekly Business - Alle Rechte vorbehalten.
Cookie Einstellungen

Gib dein Suchwort ein und drücke Enter.