Κανείς δεν μπορεί να προβλέψει το μέλλον όμως και η πρόληψη είναι καλύτερη από τη θεραπεία. Έτσι η DeepMind, το παρακλάδι της Google για την τεχνητή νοημοσύνη, συνεργάζεται με την OpenAI, τη μη κερδοσκοπική οργάνωση του Elon Musk που αποσκοπεί στην προσεκτική ανάπτυξη τεχνητής νοημοσύνης με τέτοιο τρόπο που θα είναι ωφέλιμη για την ανθρωπότητα στο σύνολό της.
Σκοπός της συνεργασίας είναι η ανάπτυξη μιας νέας μεθόδου εκμάθησης μηχανής, όπου θα παίρνει παραδείγματα από ανθρώπους και δε θα αφήνεται να σκέφτεται μόνη της, κάτι που μπορεί να οδηγήσει σε ανεπιθύμητες επιπτώσεις. Για παράδειγμα, όταν κατάλαβε η A.I. ότι μπορεί να πετύχει μεγαλύτερο σκορ σε ένα παιχνίδι “κλέβοντας”, δεν είχε κάποιον ενδοιασμό να το κάνει, αφού είναι ο πιο αποδοτικός τρόπος. Ξάφνιασε έτσι τους δημιουργούς της, εκτελώντας κύκλους για περισσότερους πόντους αντί να ολοκληρώσει τη διαδρομή.
Έτσι το σύστημα που θέλουν να αναπτύξουν οι δυο οργανισμοί, είναι μια επιβράβευση της A.I. όταν λύνει το πρόβλημα με τον τρόπο που θέλουν οι άνθρωποι. Το μειονέκτημα είναι πως αυτό απαιτεί μεγάλο ανθρώπινο feedback, κάτι το οποίο δεν είναι ούτε ιδανικό ούτε αποδοτικό.
0 Post a Comment:
Δημοσίευση σχολίου