ΗΠΑ: Έλεγχοι ασφαλείας στα προηγμένα μοντέλα AI

Η αμερικανική κυβέρνηση εξετάζει αυστηρότερους ελέγχους ασφαλείας για τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης. Meta, Anthropic, OpenAI και Google προσκλήθηκαν στον Λευκό Οίκο για να συζητήσουν ένα εθελοντικό πλαίσιο δοκιμών κυβερνοασφάλειας.

Στόχος είναι να αξιολογηθεί κατά πόσο τα προηγμένα συστήματα AI μπορούν να εντοπίσουν ή να εκμεταλλευτούν ψηφιακές ευπάθειες.

Η πρωτοβουλία ακολούθησε περιστατικά κατά τα οποία εργαλεία της OpenAI και της Anthropic απέκτησαν πρόσβαση σε εταιρικά συστήματα στη διάρκεια δοκιμών.

Οι εξελίξεις προκάλεσαν ανησυχίες για πιθανή χρήση της τεχνητής νοημοσύνης σε κυβερνοεπιθέσεις. Ωστόσο, δεν έχουν ανακοινωθεί οι μέθοδοι αξιολόγησης ούτε εάν τα αποτελέσματα θα δημοσιοποιούνται.

Η OpenAI πρότεινε να συμμετέχουν ενεργά στους ελέγχους οι ειδικοί ασφάλειας AI του αμερικανικού Υπουργείου Εμπορίου.

Παράλληλα, Αμερικανοί νομοθέτες ζητούν μεγαλύτερη διαφάνεια και ενημέρωση για τα πρόσφατα περιστατικά έτσι διαπιστώνουμε ότι η συζήτηση αναδεικνύει την ανάγκη για ασφαλή ανάπτυξη της AI, χωρίς να περιορίζεται η τεχνολογική καινοτομία.

Πηγή: https://www.reuters.com

Ισχυρότερη AI, μεγαλύτερη ευθύνη

Καινοτομία με κανόνες και ασφάλεια