C'est bizarre car pour moi (personnellement), la position que tu nommes "spéciste" fonctionne dans la direction opposée :

• Si nous sommes supérieurs aux animaux alors nous avons le devoir moral de les protéger car c'est ce que les plus "forts" (les supérieurs") font avec les plus "faibles" (leurs inférieurs) ; à moins d'être immoraux, évidemment, en les exploitant sans vergogne.
• Si au contraire, rien ne nous distingue qualitativement des autres animaux, alors, comme tout autre animal sur cette Terre, nous avons le droit inaliénable de tuer tout ce que nous pouvons car on est au putain de sommet de cette foutue chaine alimentaire. Et la morale n'a rien à foutre la dedans, c'est plus un genre de "loi naturelle".

Je comprends le raisonnement qui dit que l'on peut disposer des êtres inférieurs, mais j'avoue ne pas bien voir comment il peut être moral (hormis si l'on accepte le terme "moral" seulement dans sa définition de "conforme aux normes culturelles de l'époque"). Il est seulement "rationnel" et le fait que les esclavagistes et racistes l'emploient en dit long sur l'aspect moral de la chose.

Instead, Bostrom advises shaping what artificial super-intelligences want to do so that even if they were able to cause great harm, they would choose not to do so. One strategy would involve directly specifying a set of rules for an AI to follow, such as Isaac Asimov's famed Three Laws of Robotics. However, this poses the challenge of choosing which rules we would want to guide the AI and the difficulty of expressing those values in computer code.

L'éthique est un domaine complexe. Nous ne sommes pas forcément d'accord sur la définition des valeurs (bien/mal et toutes les autres).

A second alternative involves giving an AI only modest goals and limited ambitions. However, care would have to be taken in defining how the AI should minimize its impact on the world. A third option would involve creating an AI that is not super-intelligent, making sure it would want to act benevolently, and then augmenting it so that it becomes super-intelligent while ensuring it does not get corrupted in the process.

Comment s'assurer qu'il ne se "corrompe" pas ? Dans un système aussi complexe qu'une AI, il y a sans doute des effets émergents : même en augmentant "linéairement" les capacités du bestiaux, pas sur qu'il n'acquière pas de nouvelles capacités (émergentes).

A final possibility Bostrom suggests involves telling an artificial super-intelligence to figure out a way to make itself safe. "We try to leverage the AI's intelligence to learn what we value, or to predict which actions we would have approved of," Bostrom says. Essentially, the plan would be to develop an artificial super-intelligence that can figure out what we want, and not just follow what we say.

Hum, pour cela il faudrait déjà qu'il ne soit pas corrompu à la base. Et si on observe les humains, on voit bien que certains process (prise de pouvoir, par exemple) arrivent à corrompre les meilleurs d'entre nous avec un peu de temps. Bref, c'est hyper spéculatoire.

Mon idée sur le sujet c'est de chercher à reproduire un cerveau humain.
En faisant cela, nous constituerions un être non seulement capable de nous comprendre, mais également d'être compris par nous. Bordé par les mêmes limites que nous : psychologiques, morales, etc. Un être capable de compassion. Bien sur il faudrait choisir avec soin le modèle : le dalaï lama plutôt qu'un tueur en série !

Les époux Curie n'auraient-ils pas du arrêter leurs recherches lors qu'ils ont pris conscience du potentiel de la radioactivité ? Ou bien Lord Rutherford ou Henri Becquerel ?

Et que dire des chercheurs et des ingénieurs du Projet Manhattan ?

Certains (dont ce cher Einstein me semble-t-il) ont regretté leurs découvertes/inventions. Mais ils n'étaient pas seuls. Ils n'étaient pas dans un contexte simple. Sur le moment, ça a dû leur sembler la meilleure chose à faire (ou du moins la moins pire).

Il faut être un inspecteur des travaux finis pour penser qu'il est aisé
1) d'avoir conscience de toutes potentialités (positives comme négatives) d'une technologie alors même qu'elle n'existe pas
2) de garder le contrôle sur elle une fois constituée (ou même lors de la phase de recherche)

Les choses sont complexes. Les choix sont difficiles. De tout temps certains l'ont su (qu'est donc la tragédie grecque sinon l'illustration de cet état de fait ?) et d'autres l'ont ignoré.

Cet appel prouve bien que la science n'est pas sans cœur ni sans éthique (contrairement à ce que certains voudraient croire).

La seule chose à faire est de discuter pour trouver des solutions, ensemble, autant que faire se peut.

PS : j'ai 2 ou 3 exemples en tête de sociétés qui placent la "morale" (terme discutable, évidemment) avant tout et c'est pas très beau à voir...

Oui, le pouvoir corrompt.

Il y a ceux qui ont le pouvoir et qui se font corrompre avec plus ou moins de résistance.
Et il y a les autres. Ceux qui par choix ou par défaut n'ont pas le pouvoir.
Cela reprochent aux premiers leur corruption. C'est leur droit et surtout, c'est leur devoir dans une démocratie.

Là où tout ça devient glauque, c'est ce moment où ceux qui ont le pouvoir et sont corrompus écrasent (au figuré voire au propre) sans merci leurs accusateurs au lieu d'accepter humblement qu'ils ont joué et qu'ils ont perdu.
C'est vraiment à ce moment là que le jeu tourne au vinaigre et que toute la crasse et la pourriture de la nature humaine se révèle.

Comme Timo, je copie/colle :

Ah, il semble que les parents de Leelah Alcorn ont supprimé le blog tumblr où elle avait publié sa note de suicide.

D’après divers posts sur Tumblr, les mêmes parents veulent faire retirer le texte partout.

Voici la note en question, reproduite avec la conviction que sa diffusion aille dans le sens de sa volonté « ma mort doit servir à quelque chose », plus en tout cas que de laisser le texte être censuré partout :

« Suicide Note

If you are reading this, it means that I have committed suicide and obviously failed to delete this post from my queue.

Please don’t be sad, it’s for the better. The life I would’ve lived isn’t worth living in… because I’m transgender. I could go into detail explaining why I feel that way, but this note is probably going to be lengthy enough as it is. To put it simply, I feel like a girl trapped in a boy’s body, and I’ve felt that way ever since I was 4. I never knew there was a word for that feeling, nor was it possible for a boy to become a girl, so I never told anyone and I just continued to do traditionally “boyish” things to try to fit in.

When I was 14, I learned what transgender meant and cried of happiness. After 10 years of confusion I finally understood who I was. I immediately told my mom, and she reacted extremely negatively, telling me that it was a phase, that I would never truly be a girl, that God doesn’t make mistakes, that I am wrong. If you are reading this, parents, please don’t tell this to your kids. Even if you are Christian or are against transgender people don’t ever say that to someone, especially your kid. That won’t do anything but make them hate them self. That’s exactly what it did to me.

My mom started taking me to a therapist, but would only take me to christian therapists, (who were all very biased) so I never actually got the therapy I needed to cure me of my depression. I only got more christians telling me that I was selfish and wrong and that I should look to God for help.

When I was 16 I realized that my parents would never come around, and that I would have to wait until I was 18 to start any sort of transitioning treatment, which absolutely broke my heart. The longer you wait, the harder it is to transition. I felt hopeless, that I was just going to look like a man in drag for the rest of my life. On my 16th birthday, when I didn’t receive consent from my parents to start transitioning, I cried myself to sleep.

I formed a sort of a “fuck you” attitude towards my parents and came out as gay at school, thinking that maybe if I eased into coming out as trans it would be less of a shock. Although the reaction from my friends was positive, my parents were pissed. They felt like I was attacking their image, and that I was an embarrassment to them. They wanted me to be their perfect little straight christian boy, and that’s obviously not what I wanted.

So they took me out of public school, took away my laptop and phone, and forbid me of getting on any sort of social media, completely isolating me from my friends. This was probably the part of my life when I was the most depressed, and I’m surprised I didn’t kill myself. I was completely alone for 5 months. No friends, no support, no love. Just my parent’s disappointment and the cruelty of loneliness.

At the end of the school year, my parents finally came around and gave me my phone and let me back on social media. I was excited, I finally had my friends back. They were extremely excited to see me and talk to me, but only at first. Eventually they realized they didn’t actually give a shit about me, and I felt even lonelier than I did before. The only friends I thought I had only liked me because they saw me five times a week.

After a summer of having almost no friends plus the weight of having to think about college, save money for moving out, keep my grades up, go to church each week and feel like shit because everyone there is against everything I live for, I have decided I’ve had enough. I’m never going to transition successfully, even when I move out. I’m never going to be happy with the way I look or sound. I’m never going to have enough friends to satisfy me. I’m never going to have enough love to satisfy me. I’m never going to find a man who loves me. I’m never going to be happy. Either I live the rest of my life as a lonely man who wishes he were a woman or I live my life as a lonelier woman who hates herself. There’s no winning. There’s no way out. I’m sad enough already, I don’t need my life to get any worse. People say “it gets better” but that isn’t true in my case. It gets worse. Each day I get worse.

That’s the gist of it, that’s why I feel like killing myself. Sorry if that’s not a good enough reason for you, it’s good enough for me. As for my will, I want 100% of the things that I legally own to be sold and the money (plus my money in the bank) to be given to trans civil rights movements and support groups, I don’t give a shit which one. The only way I will rest in peace is if one day transgender people aren’t treated the way I was, they’re treated like humans, with valid feelings and human rights. Gender needs to be taught about in schools, the earlier the better. My death needs to mean something. My death needs to be counted in the number of transgender people who commit suicide this year. I want someone to look at that number and say “that’s fucked up” and fix it. Fix society. Please.

Goodbye,

(Leelah) J̶o̶s̶h̶ Alcorn »

Explorer les comportements et perception réputées humaines et qui sont en fait d'origine animale :

• l'esthétique (l'art) => très courant chez les oiseaux, très poussé chez certaines espèces amazoniennes/indonésiennes, la beauté = symétrie, respect d'un canon qui correspond en fait à l'individu sain par opposition à l'individu malade (symétrie/difformité, proportion/disproportion, grâce/tremblements, vivacité/apathie, couleurs vives/pâles, poils/plumes brillants et ordonnés / ternes et ébouriffés)
• la superstition => une étude a montré que les pigeons développent des comportements superstitieux face à des évènements répétitifs mais aléatoires
• la honte => regarde ton chat lorsqu'il est sur la litière, ton chien lorsqu'il sait avoir fait une bêtise...
• la recherche de compromis/de justice => chez les gorilles, un mâle dominant règne sur un harem de femelles qui sont prompte à se bagarrer pour obtenir un meilleur statut au sein de la troupe. Le mâle doit maintenir la cohésion du groupe en arbitrant par compromis, en faisant la justice en quelque sorte
• le stress => Le dos blanc des mâles dominants gorilles proviendrait en partie du stress apporté par sa fonction de juge et de maintient de la cohésion du groupe
• la jalousie => Courante chez les primates sociaux, observable chez les chats, les chiens, etc
• la tromperie => nombres d'animaux arborent abusivement des couleurs vives sensée indiquer une toxicité ou miment d'autres animaux dangereux (mouches qui ressemblent à des guêpes, pieuvre mimétique !) ou font croire que leur queues ou leurs ailes sont leur face (ocelles des papillons, tamanoir, pas mal de poissons coralliens, etc) ou sont capable de s’agrandir artificiellement (gonflage, collerettes, plumes spécialisées, etc)
• la violence entre membre d'un même groupe => les mâles dauphins n'hésitent pas à violer leurs partenaires, les chimpanzés peuvent être d'une rare violence en cas de conflits dans le groupe
• l'altruisme => semble être le mode de vie majoritaire parmi les êtres vivants d'après les dernières études (symbiose), cela ne signifie pas que la compétition disparait, mais la symbiose (win-win) est plusieurs ordres de grandeurs fois plus courante que la parasitose (win-lose)
• la culture => beaucoup de mammifères et d'oiseaux apprennent la vie auprès de leurs parents ou semblables (félins, canins, primates, corvidés, pleins d'oiseaux des jungles : quoi manger, comment chasser, où trouver des ressources, où nidifier, comment construire un nid, etc) ; un groupe de macaques japonnais a été observé lors de la création d'un trait culturel inédit : le fait de laver systématiquement leurs légumes dans l'eau de mer avant de les consommer (c'est propre et salé, miam !)
• l'exploitation => beaucoup d'insectes sociaux (fourmis, termites) exploitent des animaux, des champignons ou des végétaux (pucerons, cochenilles, moisissures, etc)
• l'adaptation environnementale => encore une fois les insectes sociaux capables de modifier lourdement leurs écosystèmes pour subvenir à leurs besoins (termitières immenses, trous de fées namibiens, etc)
• le défaut d'équilibre => pas mal d'espèces sont capables de bouleverser durablement et de façon extrême leurs écosystèmes (nuages de sauterelles africaines, certaines espèces de termites, chèvres et hippopotames sont des désertificateurs ; certaines souches de parasites sont capables de décimer des populations très larges) ; lors de changements climatiques majeurs, des passages sont créés ou supprimés ce qui permet/interdit la circulation des espèces par exemple la création de l'hisme américain a bouleversé la faune sud américaine qui avait été isolée durant des millions d'années des autres continents
• anticipation => pleins d'animaux font des réserves pour passer la mauvaise saison, ou migrer, ou alimenter leurs petits ; les dauphins et les félins sont capables d'élaborer des techniques de chasse collaboratives complexes et préméditées ; les orangs-outans connaissent les périodes de fructification de leurs arbres préférés et se déplacent en fonction : etc
• compassion/tristesse => visible chez les mammifères sociaux

Traits qui semblent spécifiques :

• éthique ?
• recherche de la cause cachée ? (compatible avec les pigeons superstitieux ???)

Il est bien difficile de trouver des traits qui soient spécifiquement humain... nous sommes bien une espèce animale parmi tant d'autres... Il est inutile de se cacher derrière la déchéance de la condition humaine ou une vision binaire pour juger sans réfléchir les actions humaines. Tout est dans la nature, y compris nous-mêmes et tous nos actes passés et présents. Il faut juger l'éthique de nos actions sans nous cacher, sans indulgence ou compromission car peut-être est-ce là le seul de nos trait qui nous soit spécifique.

And mass surveillance.

imho, le problème avec la surveillance de masse, c'est simplement le pouvoir qu'elle donne à ceux qui ont accès à ces infos. Les abus, les fuites, les erreurs qui en découlent.

Par exemple le politique qui utilise une infos récupérée pour attaquer un adversaire. Un cracker qui récupère une db. Un algo automatique qui classifie comme terroriste un mec tout à fait normal.

Et ses effets kisscool comme l'autocensure, la corruption, le totalitarisme.

Les solutions à cela sont la régulation et la dilution du pouvoir et SURTOUT la régulation de ce qui est surveillé :

• une instance contrôle indépendamment ceux qui ont accès à ces infos (et si c'est possible ce contrôle est rendu transparent, ce qui boucle la boucle de la surveillance = les surveillés contrôlent les surveillants)
• les pouvoir sont séparés et répartis le plus largement possible (sans que cela ne paralyse totalement le système)
• les individus doivent avoir une vie privée protégée (et si des datasets larges doivent être produit (cf. l'exemple de l'épidémiologie), ils doivent être anonymisés autant que possible)
• les organisations doivent être transparentes, plus leur champ d'action, moyens, intérêts, effectifs sont larges. La concentration de pouvoir doit inclure un coût (merci Wikileaks !)

Le système actuel fait juste l'inverse :

• surveillance approfondie des particuliers
• en France, les 3 pouvoirs sont de moins en moins séparés, avec un exécutif qui outrepasse le judiciaire et un législatif largement influencé par des intérêts privés
• Les grands intérêts privés dépassent totalement les états et jouent avec eux (cf. taxation des grands firmes en Europe), ils dérégulent l'économie, entretiennent l'état de crise et fabriquent des structures économico-légales obscures défendues par des hordes d'avocats.

Le mot de la fin : "dès qu'une donnée est enregistrée, il faut considérer qu'elle est accessible." L'équation est donc : est-ce que le bénéfice pour le peuple d'avoir cette information est supérieur à son coût ? Si la réponse est oui (par exemple le cadastre) alors que cette information soit recueillie. Si la réponse est non (informations d'identité biométrique) alors elle ne doit pas être collectée. Et cela doit être valable pour les organisations publiques ET privées (donner plus de pouvoir à une CNIL-like).

Le problème majeur aujourd'hui est que les grands intérêts privés ont récupéré trop de pouvoir. La balance penche totalement de leur côté. Ils ont perverti le capitalisme et la démocratie. En occident, cela se traduit par la paupérisation des classe moyennes et en dessous. Dans le reste du monde par le processus de mondialisation orchestré par le FMI qui ouvre les pays au pillage par les grandes firmes occidentales (quand cela n'est pas organisé directement par le pouvoir en place).

Il faut décentraliser et relocaliser. Tuer les géants qui écrasent les peuples. L'éthique reviendra naturellement (exploiter indirectement un mec à 10 K km c'est plus facile que son voisin !) et le système regagnera en résilience (=sera moins sujet aux crises).

Beurk

Les négationnistes du lien VIH/SIDA, des gens qui prônent l'infection mortelle dans les populations noires, homosexuelles et droguées ?

Froid dans le dos

Très intéressant. A creuser.