Apple deaktiverer oppsummeringsvarsler for blant annet nyhetsapper, melder Techcrunch.
De skriver at dette kommer fram i utvikler-previews av iOS 18.3, iPadOS 18.3 og macOS Sequoia 15.3.
Bakgrunnen for at funksjonen fjernes, er enkel:
AI-en har hallusinert, og laget falske nyheter.
Kåret vinner før konkurranse
Store mediehus som BBC har i flere omganger sendt klager, og uttalt seg kritisk til hvordan AI-funksjonen har fungert.
– Disse AI-oppsummeringene til Apple reflekterer ikke innholdet i BBCs saker. I noen tilfeller sier oppsummeringen det stikk motsatte, skrev BBC i en uttalelse for snart to uker siden.
BBC trekker selv fram eksempler på feil som brukere skal ha fått:
- At Luigi Mangione, mannen som drepte toppsjefen i et amerikansk helseforsikringsselskap, skulle ha skutt seg selv.
- At dartspilleren Luke Littler skulle ha vunnet PDC World Darts Championship... flere timer før finalen startet. BBCs sak handlet om at Littler hadde vunnet semifinalen.
- At den spanske tennisstjerna Rafael Nadal hadde stått fram som homofil.
Sånn snakker Apple med AI-en sin: «Ikke hallusiner!»
Vil legge inn forbehold om feil
I tillegg til at Apple nå trekker tilbake oppsummeringsvarsler for noen apper, vil de også endre på varslene i andre apper som har støtte for dette.
Teksten skal nå være i kursiv, slik at brukere lettere skal kunne se forskjell på de AI-genererte varslene, og "vanlige" varsler.
Apple skal også bli tydeligere på at AI-genererte oppsummeringsvarsler er en beta-funksjon, blant annet når brukerne aktiverer denne. Brukere skal også få beskjed om at funksjonen "kan inneholde feil".
Det er uklart når funksjonen blir rullet ut til brukerne.
Ba AI skrive bedre og bedre og bedre kode – så sa det stopp
Endret språk og troverdighet
De AI-generte oppsummeringene har også gitt utslag i andre apper, blant annet tekstmeldinger og epost.
Ars Technica fortalte allerede i oktober om opplevelsen til utvikleren , som opplevde å få en AI-generert oppsummering om at kjæresten slo opp, presentert i sanntid. Oppsummeringen var basert på flere tekstmeldinger, men ble oppsummert kort og kynisk.
– No longer in a relationship; wants belongings from the apartment.
Det har også vært flere eksempler på at denne oppsummeringen "vasker" språket for de som vil svindle deg.
Jeremy Howard, en av grunnleggerne av Fast.ai, er blant dem som har delt eksempler på dette på Bluesky.
Maybe Apple Intelligence shouldn’t mark scam emails as “Priority” with a summary saying it’s for security purposes?
— Jeremy Howard (@howard.fm) November 28, 2024 at 2:19 AM
[image or embed]
En annen Bluesky-har også delt sin erfaring med problemet. De aller fleste vil nok kjenne igjen svindelen som i dette tilfellet har lurt AI'en, nemlig en klassisk "du må kvittere ut pakka di"-svindel.
