Google: Ψηφιακά υδατογραφήματα σε βίντεο και κείμενα που έχουν δημιουργηθεί με ΑΙ

[Nagata]

Η Google πρόσφατα προέβη σε βαρυσήμαντες ανακοινώσεις ανοίγοντας με αυτόν τον τρόπο την έναρξη του φετινού της #Google I/O, η εταιρεία λέει ότι έχει ένα σχέδιο να διασφαλίσει τη διαφάνεια γύρω από την προέλευση των ολοένα και πιο ρεαλιστικών κλιπ που δημιουργούνται από την τεχνητή νοημοσύνη. Όλα τα βίντεο που γίνονται από το νέο μοντέλο Veo της εταιρείας στην εφαρμογή VideoFX θα έχουν ψηφιακά υδατογραφήματα χάρη στο σύστημα SynthID της Google. Επιπλέον, το SynthID θα μπορεί να υδατογραφήσει κείμενο που δημιουργείται από τεχνητή νοημοσύνη και προέρχεται από το Gemini.

Το SynthID είναι το ψηφιακό σύστημα υδατογράφησης της Google που άρχισε να κυκλοφορεί σε εικόνες που δημιουργήθηκαν με τεχνητή νοημοσύνη πέρυσι. Η τεχνολογία ενσωματώνει ανεπαίσθητα υδατογραφήματα σε περιεχόμενο κατασκευασμένο από AI, έτσι ώστε τα εργαλεία ανίχνευσης AI να μπορούν να αναγνωρίσουν ότι το περιεχόμενο δημιουργήθηκε από AI. Λαμβάνοντας υπόψη ότι το Veo, το πιο πρόσφατο μοντέλο γενιάς βίντεο της εταιρείας με προεπισκόπηση στη σκηνή στο I/O, μπορεί να δημιουργήσει κλιπ μεγαλύτερης διάρκειας και υψηλότερης ανάλυσης από ότι ήταν προηγουμένως δυνατό, η παρακολούθηση της πηγής αυτού του περιεχομένου θα είναι ολοένα και πιο σημαντική.

Από την στιγμή που τα μοντέλα παραγωγής τεχνητής νοημοσύνης προχωρούν, περισσότερες εταιρείες έχουν στραφεί στην υδατοσήμανση εν μέσω φόβων ότι η τεχνητή νοημοσύνη θα μπορούσε να τροφοδοτήσει ένα νέο κύμα παραπληροφόρησης. Τα συστήματα υδατογράφησης θα έδιναν σε πλατφόρμες όπως η Google ένα πλαίσιο για τον εντοπισμό περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη, το οποίο διαφορετικά μπορεί να είναι αδύνατο να διακριθεί. Η TikTok και η Meta ανακοίνωσαν επίσης πρόσφατα σχέδια να υποστηρίξουν παρόμοια εργαλεία ανίχνευσης στις πλατφόρμες τους και να επισημάνουν περισσότερο περιεχόμενο τεχνητής νοημοσύνης στις εφαρμογές τους.

Εδώ ωστόσο προκύπτουν σημαντικά ερωτήματα σχετικά με το εάν τα ψηφιακά υδατογραφήματα προσφέρουν από μόνα τους επαρκή προστασία από παραπλανητικό περιεχόμενο AI. Οι ερευνητές έχουν δείξει ότι τα υδατογραφήματα είναι εύκολο να αποφευχθούν. Ωστόσο, το να γίνει ανιχνεύσιμο περιεχόμενο που δημιουργείται από AI είναι ένα σημαντικό πρώτο βήμα προς τη διαφάνεια.

[via]

back to the Article