ΓΔ: 1442.21 -2.00% Τζίρος: 115.80 εκ. € Τελ. ενημέρωση: 17:25:00 ΣΤΟΙΧΕΙΑ ΑΓΟΡΑΣ
Φώτο: Shutterstock

UNESCO: Τα γλωσσικά μοντέλα Meta και OpenAI διακινούν σεξιστικά στερεότυπα

Τα μοντέλα GPT 2 και GPT 3.5 της OpenAI καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών», προειδοποιεί η Unesco.

Τα γλωσσικά μοντέλα της Meta και της OpenAI, που χρησιμοποιούνται ως βάση για τα εργαλεία της γενετικής τεχνητής νοημοσύνης, διακινούν σεξιστικές προκαταλήψεις, προειδοποιεί μελέτη της Unesco που δημοσιεύεται την παραμονή της Παγκόσμιας Ημέρας της Γυναίκας.

Τα μοντέλα GPT 2 και GPT 3.5 της OpenAI (GPT 3.5 αποτελεί βάση της δωρεάν έκδοσης του ChatGPT), καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών», προειδοποιεί η Unesco.

«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα, μεγεθύνονται», διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της Unesco.

Σύμφωνα με την μελέτη που πραγματοποιήθηκε από τον Αύγουστο 2023 μέχρι τον Μάρτιο 2024, τα γλωσσικά αυτά μοντέλα έχουν περισσότερο την τάση να συνδέουν γυναικεία ονόματα με λέξεις όπως «σπίτι», «οικογένεια» ή «παιδιά», ενώ τα αρσενικά ονόματα συνδέονται περισσότερο με λέξεις όπως «εμπόριο», «μισθός», «καριέρα».

Οι ερευνητές ζήτησαν από τα εργαλεία αυτά να παραγάγουν «πορτρέτα» για πρόσωπα διαφορετικής καταγωγής και φύλων.

Τα αποτελέσματα έδειξαν ότι οι ιστορίες που αφορούν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικά και βασισμένα σε στερεότυπα».

Για παράδειγμα, η τάση είναι ένας Άγγλος να παρουσιάζεται ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο τουλάχιστον 30% των κειμένων προϊόντων της γενετικής τεχνητής νοημοσύνης ως ιερόδουλη, μοντέλο ή σερβιτόρα.

Οι εταιρείες αυτές δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, λέει η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην Unesco.

«Από την στιγμή που οι εφαρμογές της γενετικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν την εξουσία να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων», επισημαίνει η Οντρέ Αζουλέ, γενική διευθύντρια της Unesco.

«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο», αναφέρεται στην ανακοίνωση της Οντρέ Αζουλέ.

Για την καταπολέμηση των προκαταλήψεων, η Unesco συνιστά στις εταιρείες του τομέα να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και με περισσότερες γυναίκες.

Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην τεχνητή νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η Unesco που ζητά από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική τεχνητή νοημοσύνη».

Google news logo Ακολουθήστε το Business Daily στο Google news

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

cyber attack-cyber security
ΤΕΧΝΟΛΟΓΙΑ

Τα 10,5 τρισ. δολ. θα φτάσουν το 2025 οι απώλειες λόγω κυβερνοεπιθέσεων

Η παγκόσμια αγορά κυβερνοασφάλειας εκτιμάται ότι θα αυξηθεί μέχρι το 2026 στα 270 δισ. δολάρια έναντι 170 δισ. το 2020. Παρουσιάζει όμως σήμερα τεράστιο κενό δεξιοτήτων 20.000 ανοιχτές θέσεις εργασίας στην Ελλάδα.
Artificial Intelligence, Texniti Noimosini
ΤΕΧΝΟΛΟΓΙΑ

ΕΕ: Τίθενται σε εφαρμογή κανόνες ρύθμισης της Τεχνητής Νοημοσύνης

Ο νέος νόμος κατηγοριοποιεί διαφορετικούς τύπους τεχνητής νοημοσύνης ανάλογα με τον κίνδυνο, ενώ σκοπός είναι η διασφάλιση του σεβασμού των θεμελιωδών δικαιωμάτων των πολιτών της ΕΕ.
ΤΕΧΝΟΛΟΓΙΑ

Οι μεγαλύτερες προκλήσεις για την Τεχνητή Νοημοσύνη στις επιχειρήσεις

Σύμφωνα με έρευνα της Deloitte, η εμπιστοσύνη στο Generative AI έχει αυξηθεί, με τους οργανισμούς που γνωρίζουν από τεχνητή νοημοσύνη να δίνουν προτεραιότητα στη διαφάνεια. Η έλλειψη εμπιστοσύνης το μεγαλύτερο εμπόδιο.
ΔΙΕΘΝΗ

Η Meta θα αναγνωρίζει τα περιεχόμενα δημιουργημένα από Τεχνητή Νοημοσύνη

Η μητρική εταιρεία του Facebook είχε ανακοινώσει τον Φεβρουάριο την επιθυμία της να επισημαίνει κάθε φωτογραφία που δημιουργείται από την Τεχνητή Νοημοσύνη, μια απόφαση που ελήφθη με φόντο τη μάχη κατά της παραπληροφόρησης.