Quand Siri appelle les secours par erreur et mobilise 15 policiers
Siri ne brille pas souvent par son intelligence. Non seulement il comprend mal, mais parfois il croit à tort qu’on lui parle, interprète mal les choses et fait de grosses bêtises. Jamie Alleyne se souviendra sans doute longtemps de cette séance matinale à la salle de sport.
« Dis Siri, tu es nul ! »
Ce coach sportif était en train d’entrainer l’un de ses clients lorsqu’un officier de police est venu lui demander s’il avait entendu des coups de feu. Interloqué, il répondit par la négative et découvrit très rapidement que son interlocuteur était accompagné d’une quinzaine de policiers armés et de plusieurs ambulances.
L’homme n’était pas au bout de ses surprises. Après s’être assuré que tout était en ordre, le policier lui demanda s’il connaissait un certain Jamie Alleyne. S’en suivit un moment d’incompréhension, quand il déclara qu’il s’agissait bien de lui, mais qu’il n’avait pas appelé la police, arguant qu’il n’avait pas même de téléphone sur lui.
L’agent lui demanda malgré tout de regarder son smartphone et il s’aperçut alors dans son journal d’appel que le numéro des urgences à savoir le 112 avait bel et bien été appelé. À force de réfléchir, Jamie Alleyne finit par trouver le coupable à savoir son Apple Watch qu’il avait retiré au milieu de l’entrainement, car Siri se déclenchait très souvent.
Pendant son entrainement, il ne cessait de répéter la combinaison « 1 1 2 » à son client, un numéro que Siri croyant bien faire s’empressa de composer. Pour ne rien arranger, pendant l’entrainement, l’homme a à plusieurs reprises, répété les expressions « bon coup » ou « bon tir ». Il n’en fallait pas plus pour générer un énorme quiproquo.
Morale de l’histoire : Jamie Alleyne a fini par désactiver Siri !
On croirait une blague du 1er avril 😂 le nombre de probabilités et de chances que cela se produise était quand même très minime. Le hasard et la coïncidence me fascine ! J’espère que c’était pas vendredi 13 pour lui 😆
@Gregoryen
Le hasard et la coïncidence?
Non, bien au contraire.
Tout comme les « faux » appels aux urgences de la « détection de crash » de l’iPhone 14 dont nous étions certains a prédire qu’ils seraient légions dans de nombreuses situations comme les stations de skis ou les parcs d’attraction. De la logique pure et simple.
Mais comme la majorité veut aveuglément et à tout prix se passer de la logique humaine au profit de « l’intelligence » artificielle, dans tous les domaines, ce sera de plus en plus le cas.
@Urubu
Je pense que tu sous estime fortement l’intelligence artificielle. Elle n’en est qu’à ses débuts aujourd’hui et est déjà très impressionnante.
Mais vu qu’elle n’en est qu’à ses débuts, elle est aussi plus susceptible de faire des erreurs.
Et au plus elle aura d’utilisateurs sur lesquels apprendre de ses erreurs, au moins elle en fera.
Je pense donc qu’au contraire ce genre de cas ira de façon décroissante au fur et à mesure que l’intelligence artificielle est utilisée dans de plus en plus de domaine et par de plus en plus d’utilisateurs.
@Nico_Belgium
« dont nous étions certains a prédire qu’ils seraient légions dans de nombreuses situations »
On se demande même pourquoi Apple continue à faire du recrutement alors que pour 45€ par an ils peuvent avoir les meilleurs consultants du monde en venant juste sur macG si on en croit les gens ici 🤭🙄.
@cecile_aelita
Faut pas croire, apple savait pertinemment que ça ne fonctionnerait pas dans 100% des cas ^^
Mais comme je l’ai expliqué dans les deux autres commentaires, ils ont fait le choix de la sortir quand même parce qu’il n’y a que comme ca qu’ils peuvent la perfectionner.
C’est le même phénomène que tesla et sa conduite « autonome ». L’IA, c’est comme l’humain: pour apprendre elle doit se tromper. Pour les meilleur..et parfois le pire.
@Nico_Belgium
Je suis d’accord ! Mais c’était pas sur ce point que je faisais une remarque mais plutôt sur le fait que les gens sont tous des génies dans tous les domaines ici si on les écoute 😋😉
@cecile_aelita
Oui c’est pas faux 😅
@cecile_aelita
Ah il fallait être un génie pour imaginer que ça ne manquerait pas de provoquer des appels aux urgences dans des situations qui ne le nécessiterait pas?
A se demander si vous avez véritablement une aussi basse opinion de vous même ou si vous avez raison à ce sujet en fait. 🙄
@Urubu
« Ah il fallait être un génie pour savoir que ça ne manquerait pas de provoquer des appels aux urgences dans des situations qui ne le nécessiterait pas? «
Non, juste un menteur, prétendant avoir prédit des trucs, après avoir des articles sur le sujet !
@IceWizard
Hum. Vous avez encore perdu une occasion de vous taire.
https://i.postimg.cc/sxT56XdM/31-E2-AA67-647-B-461-C-8883-04378-B8-AE20-E.jpg
https://www.macg.co/video/2022/09/la-fonction-de-detection-des-accidents-de-liphone-14-en-action-131551
Qui est un menteur? 🙄🤭🤫
@Urubu
« Hum. Vous avez encore perdu une occasion de vous taire. Qui est un menteur? «
Toi, bien évidemment ! Prétendre avoir prédit une apocalypse EN RÉPONSE à un article PUBLIÉ parlant d’un problème c’est particulièrement ballot.
Et ma seule contribution sur les différents topics parlant de ces problèmes d’erreurs de détection de faux accidents, a été de dire qu’il est impossible de prédire TOUS les pépins potentiels lors de la phase de R&D, et certains dysfonctionnements ne peuvent être connus qu’après le contact avec le réel et des millions d’utilisateurs ayant des pratiques différentes.
La vraie question est de savoir en combien de temps le problème sera réglé, ou si la fonctionnalité doit être retirée.
@IceWizard
Moi évidemment? À quel moment j’ai prédit une apocalypse? Vous mentez à nouveau et perdez également une nouvelle occasion de vous taire.
Et qu’est ce qui vous permet de vouvoyer? Rien.
Je vous laisse seul passer pour un idiot, bon dimanche. 👋
@Urubu
Blabla ! 🎠🎠🎠🎠
@Nico_Belgium
Donc on sort tranquillement des produits et fonctions non abouties maintenant quitte à mettre des vies en danger et des services de secours en tension juste pour tester en vie réelle, et ça ne pose aucun problème?
@Urubu
Il l’a dit, c’est l’œuf ou la poule:
si tu sors la fonction non aboutie, elle sera ultra fiable un jour mais en attendant, il peut et va y avoir des ratés -souvent sans conséquences graves heureusement- mais qui ajoutent à la prise d’expérience de l’assistant,
alors que si tu attends qu’elle soit aboutie, elle prendra infiniment plus de temps car les tests en laboratoire sont bien plus limités que l’imagination des gens et les situations réelles dans lesquelles ils se mettent.
Dans les deux cas, il y a des avantages et des inconvénients, un impact positif sur la satisfaction du client et un risque faible mais non négligeable d’erreur qui gêne ce dernier. Apple a simplement pris un risque calculé.
@pommier
« Apple a simplement pris un risque calculé. »
Euh, vous en êtes sûr ?
Sortir la fonction n’est pas un risque calculé. Ce qui compte c’est se démarquer de la concurrence. Apple est tous sauf altruiste.
Ce qui compte c’est le porte-monnaie.
Avoir cette fonction maintenant les place devant leur concurrent. C’est tout.
Cela dit, qui paie la facture pour le déplacement des services d’urgence ?
Et pendant qu’ils viennent pour une fausse alerte, ils ne peuvent répondre à une vraie alerte.
Si on veut mourir la fonction IA, il suffit de l’activer en mode test, et de demander ensuite si il y a vraiment eu un accident ou pas. Une fois implantée pour vraiment servir d’aide d’urgence, ce n’est plus l’heure pour faire des erreurs.
Non, pas de risques calculés. Les seuls calculs sont ceux des billets verts.
@Sillage
Et de plus, je ne vois pas pourquoi la communauté devrait payer les erreurs de Apple pour que eux puissent encore amasser plus de pognon.
La facture pour ces déplacements inutiles devraient leur être envoyée.
Peut-être que ça les motiverais à améliorer Siri et d’autres services.
@Sillage
Apple pourrait racheter ces services dix fois et resterait encore riche: je ne pense pas que la facture les presserait tellement plus. La mauvaise publicité par contre…
@Sillage
Question bête, peut-être : c’est un service public qui a été envoyé, non ? Évidement que ça a un coût, j’en conviens. Mais à l’opposé, qui aurait payé ce déplacement de forces de l’ordre et autres services de secours si l’alerte avait été réelle ?
@David Finder
En Suisse, par exemple, c’est la personne qui appelle ou qui est en besoin qui paie. Heureusement qu’il y a des assurances pour couvrir en cas d’urgence.
Aux usa, pas de factures quand les pompiers viennent. C’est le contribuable. Mais les abus peuvent être facturés il le semble.
Une fois on a fait appel au 112 et pompier et ambulance est arrivée. Transport en ambulance jusqu’à l’hôpital depuis la maison. Pas eu de facture. Difficile de savoir si au travers de l’hôpital la facture a été envoyée à l’assurance ou pas. Un hôpital va facturer une assurance $50k pour une opération, et si pas d’assurance, le patient reçoit une facture de $15k. Cherchez l’erreur !!!
Il n’empêche que je trouve aberrant de pouvoir utiliser les services publiques pour du “debug”… Surtout vu les moyens de la plus grosse capitalisation boursière mondiale. (Enfin, ça l’était si ils ne le sont plus).
@Sillage
“Aux usa, pas de factures quand les pompiers viennent. C’est le contribuable. Mais les abus peuvent être facturés il le semble.
Une fois on a fait appel au 112 et pompier et ambulance est arrivée. Transport en ambulance jusqu’à l’hôpital depuis la maison. Pas eu de facture. Difficile de savoir si au travers de l’hôpital la facture a été envoyée à l’assurance ou pas.”
Chaque service a son propre systeme de facturation. Une ambulance te facture, l’hopital te facture, l’anesthesiste te facture, le chirurgien te facture, etc. Donc y a un souci si tu vois pas passer de facture lol
Apres, les factures sont brutes, au depart. Forcement, quand un mec se fait hospitaliser et recoit plusieurs factures pour un total de $50k ou $1 million (le truc qu’on voit dans les journaux a sensation), c’est pas payé cash. Tu vas avoir plusieurs series d’abattements, assurances, etc. Le reste - out of pocket - est bien moins elevé, forcement. Sinon, ca voudrait dire qu’on - americains - est tous millionnaires, qu’on peut donner naissance a des bebes pour des dizaines de milliers de dollars a tour de bras, etc. T’es mal quand t’es middle class avec une assurance sante pourrie. Quand t’es aisé, le probleme se pose pas, quand t’es pauvre, tu paies pas. On en revient au meme probleme: mieux vaut etre pauvre en France qu’aux US, mieux vaut etre riche aux US qu’en France. Dans les deux cas les middle class sont baisees et tendent a disparaitre.
@Sillage
Merci pour ces exemples et explications.
@Sillage
Je n’ai jamais parlé d’altruisme. Et oui, c’est aussi et surtout un avantage financier d’être là en premier. Et a priori, la méprise venant aussi des services d’urgence, le client ne devrait pas payer.
Mais je parle de risque calculé car pour une histoire aussi grave d’erreur, il y a aussi plus d’erreurs à l’impact beaucoup moins grave et surtout plus de résultats positifs avec des histoires où la fonction a sauvé la vie de personnes âgées ou prises dans un accident. Et dans tous les cas cités, l’IA apprend.
Il faut se souvenir qu’avant de vendre ses produits au monde entier, Apple reste une entreprise américaine qui tient compte de son contexte américain -et qui s’adapte parfois aux autres- un peu comme les manga lus à l’international se destinent avant tout au marché japonais. La preuve? Il n’y a pas de fonction pratique disponible ailleurs et non aux USA, sauf obligation légale.
Et aux USA, le service public est le parent pauvre donc malheureusement, c’est négligeable dans ce genre de calcul.
@Nico_Belgium
"L’IA, c’est comme l’humain: pour apprendre elle doit se tromper."
Lorsqu'on regarde l'histoire pas sûr que l'Homme apprenne de ses erreurs contrairement à l'IA.
@Nico_Belgium
Oui c’est Apple ou une autre qui engrange les bénéfices et le coût de ce genre d’erreur est laissé à la communauté.
C’est très (trop) souvent ainsi quand il s’agit d’innovation / progrès 🤷♂️
@CorbeilleNews
C’est pareil avec les fabricants de trottinettes : c’est le contribuable qui paye les frais d’hôpital ou d’obsèques
@fabricepsb71
Ou les stades !
@cecile_aelita
Excellent 👍🏻👍🏻😂😂
@StephanM3
Je trouve ça fascinant personnellement lol
Cette absente totale d’humilité🫣… ils savent tout !!
Comme dirait Perceval : l’humilité c’est « qui peut accaparer un objet sans resurgir sur autrui » 😂!
@cecile_aelita
Non « ils »ne savent pas tout. Ils utilisent leur cerveau, tout simplement. Quant à l’humilité qui consiste à venir faire de l’ironie sur un forum pour récolter de l’affect virtuel… 🙄 Paie œil poutre tout ça
https://i.postimg.cc/sxT56XdM/31-E2-AA67-647-B-461-C-8883-04378-B8-AE20-E.jpg
@cecile_aelita
L’humilité, c’est pas quand il y’a des fuites ?
@Sindanarie
🤭
@cecile_aelita
Merci 🤣. Je me disais aussi c’est pas possible je suis le seul con sur ce forum.
@vincent.lgl
Je pensais être la seule aussi!
On doit être deux alors 😋
@cecile_aelita
Comme quoi on manque vraiment de clairvoyance.
@vincent.lgl
C’est clair 🤭!
Heureusement qu’il y a quelque rageux pour venir nous rappeler la dure réalité 🤭
@vincent.lgl
"Je me disais aussi c’est pas possible je suis le seul con sur ce forum."
Rassure toi on atteint presque les 98%.
Sauf l’oomu dont les voix sont impénétrables
@Sindanarie
On devrait peut être le kidnapper et l’enfermer dans le noir dans plein de gens tous nus 🤔
De préférence des détenus qui n’ont pas vu un téton depuis 10 ans
…
Ah tu ne parlais pas de ces voies là 😝
@laraigneegypsymontealagouttiere
Il y a peut être des idiots comme moi aussi sur ce forum, mais certains sont des génies ! Comme plus bas 🤭.
@cecile_aelita
Je m’attendais à ce genre de réponse stupide, de la part des mêmes qui clamaient que « non, (Sainte) Apple paie suffisamment de R&D et ne sort que des produits aboutis, ce sont des algorithmes hyper précis, ils ne se tromperont pas bla bla bla » 🙄🙄🙄
@cecile_aelita
Ah c’est drôle @cecile_aelita , quand on vous met les faits sous les yeux vous les évitez soigneusement, fuyez en rangeant vos sarcasmes et ne proposez évidemment aucune excuse :
https://i.postimg.cc/sxT56XdM/31-E2-AA67-647-B-461-C-8883-04378-B8-AE20-E.jpg
https://www.macg.co/video/2022/09/la-fonction-de-detection-des-accidents-de-liphone-14-en-action-131551
@Urubu
Vous avez raison. Je vous présente toutes mes excuses 😰.
Je me suis trompée lamentablement.
@cecile_aelita
Merci
@Urubu
De rien!
Et encore désolé de vous avoir importuné🫤
@Urubu
« Merci »
(💭Et hop nous voilà avec un nouveau scientifique de la goujaterie)
@Sindanarie
Shuuuut malheureux 🤭
@Sindanarie
Ah oui, tiens, on prône l’égalité des sexes quand ça nous arrange, hein…
Je pense que tu sous estime fortement l’intelligence artificielle
Je pense aussi et surtout qu'il faut arrêter de mettre l'intelligence artificielle partout et surtout là où il n'y en a pas.
Et pour que l'intelligence artificielle apprenne de ses erreurs il faudrait encore qu'elle sache quand elle fait erreur, pourquoi et ce qu'elle aurait du faire à la place. Autant dire que dans le cas de l'article, il n'y a aucune chance pour qu'elle apprenne (quelqu'un lui a dit qu'elle a fait une grosse boulette ?).
@Nico_Belgium
Sous estimer ? Quand on voit déjà les dérives, il est fort à parier que son utilisation sera vite limité voir interdite dans le pire des cas. On voit déjà ce que donne l’utilisation des objets connectés pour certains et le smartphone alors si on ajoute une IA pour tous, on va vite se retrouver dans le monde de Wall-E. Google planche depuis longtemps sur les IA et avait décidé d’en tuer une car dangereuse pour eux… l’avenir n’est sûrement pas les IA pour ma part.
@Urubu
Enfin là c’est surtout Siri le problème, complètement à côté de la plaque 99% du temps. Et pour la détection d’accident c’est également Apple qui n’a semble-t-il pas suffisamment testé sa fonction en condition réelle et dans le cas de la pratique de certaines activités pour éviter les faux positifs…
L’idée de Siri est géniale (et c’était franchement encourageant en 2011 quand c’est sorti !), mais le problème est que « intelligence artificielle » pour Siri faut le dire vite… Quand on voit chatGPT à côté ou même Google Assistant, Apple devrait avoir honte de ce qu’ils ont fait ds Siri ! Surtout qu’ils étaient précurseurs et qu’il y avait des bases vraiment bonnes et solides… Mais aujourd’hui, Siri n’en fait pas beaucoup plus qu’en 2011, même moins dans certains cas…
Pages