Zen et nous

Le zen, sa pratique, ses textes, la méditation, le bouddhisme, zazen, mu


    ET SI ON LAISSAIT LES MOINES BOUDDHISTES ENTRAÎNER LES IA ?

    Partagez
    avatar
    AncestraL
    petit fleuron
    petit fleuron

    Masculin Nombre de messages : 557
    Localisation : Lille
    Emploi/loisirs : éducateur/agent de probation
    Humeur : Sat Chit Ananda
    Date d'inscription : 01/10/2012

    ET SI ON LAISSAIT LES MOINES BOUDDHISTES ENTRAÎNER LES IA ?

    Message par AncestraL le Dim 2 Juil 2017 - 21:54

    Vendredi 30 juin 2017 par Clémentine Spiler
    ET SI ON LAISSAIT LES MOINES BOUDDHISTES ENTRAÎNER LES IA ?
    T'as déjà vu un robot doué de compassion ?

    http://www.novaplanet.com/novamag/78648/et-si-on-laissait-les-moines-bouddhistes-entrainer-les-ia

    Une voiture sans conducteur doit-elle sauver la vie de son passager, ou celle d’un passant ? Doit-elle épargner les vies de cinq personnes ou celle d’un enfant ? Les intelligences artificielles intègrent progressivement nos quotidiens. Que doivent-elles intégrer de nos principes ? Il ne devrait pas se passer plus d’une décennie avant que les voitures sans conducteur soient démocratisées.

    Dans la revue Science parue le 23 juin dernier, un groupe de psychologue et d’ingénieurs informatique exposent les résultats d’une étude menée sur le sujet. Elle démontre qu’une grande partie des personnes interrogées déclarent vouloir une voiture autonome qui les protègent, eux et leur famille, avant tout. Au détriment d’un piéton, par exemple.

    Quelle morale pour les robots ?

    Comme le rappelle le New York Times, le thème de la morale face à la technologie est récurrent dans la science-fiction. Ces problématiques philosophiques sont automatiquement mises sur le tapis lorsqu’on parle de déléguer des actions humaines à des machines. Comment programmer des décisions morales sur des IA, alors que ces questions divisent l’Humanité elle-même ? Dans The Atlantic, le psychologue de Harvard Josua Greene rappelle l’importance du « dilemme du tramway », une expérience de pensée, utilisée en neuroéthique depuis 1967.

    Imaginez : un wagon fou dévalant des rails en direction d’un groupe de cinq personnes, qui risquent toutes la mort. Maintenant, imaginez que vous avez la possibilité de dévier le wagon avant l’impact, pour lui faire prendre une voie sur laquelle il n’y a qu’une seule personne. Vaut-il mieux ne rien faire et laisser mourir cinq personnes ? Ou agir et provoquer un seul décès ? Il n’y a aucune bonne réponse à ce test. Un peu comme l’expérience de Milgram, elle permet de déterminer les comportements humains.

    Joshua Greene a proposé une variante de ce test. Vous êtes sur un pont, vous voyez un wagon dévaler des rails en direction de cinq personnes. À côté de vous, une très grosse personne. (C’est un vrai test, pas une mauvaise blague, promis.) Si vous la jetez sur les rails, elle arrête le wagon. Que faites-vous ? Lors d’une conférence, le psychologue s’amusait à dire que seuls les psychopathes et les économistes choisiraient de pousser la personne sur les rails. C’était sans compter sur les moines bouddhistes.

    « Bouddha pousserait-il l’homme du pont ? »

    C’est ainsi que Xin Xiang, un doctorant chinois a intitulé sa thèse, pour laquelle il a soumis des Tibétains, des Chinois et des Américains à cette variante du dilemme du tramway. À la surprise générale, les moines bouddhistes se sont montrés bien plus enclins que les autres à pousser l’homme du pont, faisant ainsi un choix similaire à celui des psychopathes cliniques, et à des personnes souffrant de maladies mentales. La raison : « Bien sûr qu’il est terrible de tuer quelqu’un. Mais si votre intention est pure et que vous le faites pour le bien commun, que vous ne le faites pas pour sauver votre vie, ni celle de votre famille, cela peut se justifier. » Selon cette logique, si elle est inculquée aux AI dans le cas des voitures autonomes, cela pourrait signifier qu’un véhicule choisisse de sacrifier ses passagers pour sauver d’autres vies sur les routes.

    « Si l’on considère que le rôle d’une intelligence artificielle est de remplacer une personne, argumente le sociologue Amitai Etzioni dans le New York Times, Il faut inculquer une forme d’éthique à la voiture. » Encore faudrait-il définir une éthique claire, propre à l’humanité. Ou faire confiance aux moines bouddhistes.

    Visuel (c) Doomsday Book
    avatar
    Yudo, maître zen
    grand fleuron
    grand fleuron

    Masculin Nombre de messages : 2924
    Age : 69
    Localisation : Montpellier
    Emploi/loisirs : Artisan/ Maître zen
    Humeur : Colérique, lourd, égoïste, antipathique.Ou sympa, équanime, altruiste et sympathique. C selon
    Date d'inscription : 13/04/2008

    Re: ET SI ON LAISSAIT LES MOINES BOUDDHISTES ENTRAÎNER LES IA ?

    Message par Yudo, maître zen le Lun 3 Juil 2017 - 8:11

    Pour moi, je laisserais faire, parce que tuer une personne dans l'hypothèse très improbable qu'un corps humain, même très gros, puisse arrêter un wagon fou, dans l'espoir de sauver cinq personnes, avec comme résultat le plus vraisemblable six morts au lieu de cinq, c'est stupide.

    Il en irait autrement s'il fallait pousser un aiguillage, qu'une personne s'interposait pour m'en empêcher et que la bataille pour m'assurer du contrôle de l'aiguillage entraînait un risque pour la vie de cette personne (déraisonnable). Mais déjà, on s'aperçoit qu'en rendant plus réel les termes du dilemme, on rend la décision plus instantanée et, également, réaliste.

      La date/heure actuelle est Dim 19 Nov 2017 - 22:26