Ṣe o ranti nigbati Google's Bard, ti a npe ni Gemini ni bayi, ko le dahun ibeere kan nipa James Webb Space Telescope ninu ipolowo ifilọlẹ rẹ? Jẹ ki n ṣe iranti rẹ nipa ọran olokiki yii — o jẹ ọkan ninu awọn apẹẹrẹ nla julọ ti awọn hallucinations AI ti a ti rii.

Kini o lọ silẹ? Lakoko ipolowo, demo Google Bard ni a beere, “Awọn awari tuntun wo lati ọdọ Awotẹlẹ Space James Webb ni MO le pin pẹlu ọmọ ọdun 9 mi?” Lẹhin idaduro kukuru kan, Google Bard demo fun awọn idahun ti o pe meji. Sibẹsibẹ, idahun rẹ ti o kẹhin ko tọ. Gẹgẹbi demo Google Bard, ẹrọ imutobi ti ya awọn aworan akọkọ ti aye kan ni ita eto oorun wa. Bí ó ti wù kí ó rí, ní ti gidi, Awò Awò Awọ̀nàjíjìn Títóbi Gíga Jù Lọ ní Ilẹ̀ Gúúsù Ilẹ̀ Yúróòpù ti ti ya àwọn àwòrán “àwọn exoplanets” wọ̀nyí, tí wọ́n ti tọ́jú sínú àkójọ àwọn ibi ìpamọ́ NASA.

Kii ṣe lati jẹ daradara ~ daradara, nitootọ, ati pe Mo ni idaniloju pe Bard yoo jẹ iwunilori, ṣugbọn fun igbasilẹ naa: JWST ko ya “aworan akọkọ ti aye ni ita eto oorun wa”.

aworan akọkọ ni dipo ṣe nipasẹ Chauvin et al. (2004) pẹlu VLT/NACO nipa lilo awọn opiti adaṣe. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h

- Grant Tremblay (@astrorant) February 7, 2023

Kini idi ti awọn omiran imọ-ẹrọ bii Google paapaa ṣe idiwọ iru awọn aṣiṣe bẹ? Jẹ ká wa jade!

Kí ni ohun AI hallucination?

Ibanujẹ AI waye nigbati eto kọmputa kan, ni igbagbogbo agbara nipasẹ oye atọwọda (AI), ṣe agbejade awọn abajade ti ko tọ, aiṣedeede, tabi ṣina. Oro yii ni igbagbogbo lo lati ṣe apejuwe awọn ipo nibiti awọn awoṣe AI ṣe ipilẹṣẹ awọn idahun ti o wa ni pipa patapata tabi ti ko ni ibatan si titẹ sii ti a fun wọn. O dabi bibeere ibeere kan ati gbigba idahun ti ko ni oye tabi kii ṣe ohun ti o nireti rara.

Lati ni oye idi AI hallucinations ṣẹlẹ, jẹ ki ká wo lori bi AI ṣiṣẹ. Awọn awoṣe AI, gẹgẹbi awọn chatbots tabi awọn ọna ṣiṣe idanimọ aworan, ni ikẹkọ lori awọn iwe data nla lati kọ ẹkọ awọn ilana ati ṣe awọn asọtẹlẹ. Bibẹẹkọ, ti data ikẹkọ ba jẹ abawọn, ti ko pe, tabi abosi, awoṣe AI le kọ awọn ilana ti ko tọ tabi awọn ẹgbẹ. Eyi le ja si awọn igbejade hallucinated nibiti AI ṣe ipilẹṣẹ awọn idahun ti o da lori aṣiṣe tabi alaye ti ko loye. Ati pe o waye pupọ botilẹjẹpe o le ma ṣe akiyesi.

Awọn hallucinations AI le farahan ni awọn ọna oriṣiriṣi, ọkọọkan n ṣe afihan awọn italaya oriṣiriṣi ati intricacies laarin awọn eto itetisi atọwọda. Eyi ni diẹ ninu awọn oriṣi ti o wọpọ ti awọn hallucinations AI:

• Idahun AI hallucination:
  • Ninu oju iṣẹlẹ yii, awoṣe AI ṣe ipilẹṣẹ gbolohun kan ti o tako pẹlu alaye iṣaaju laarin ipo kanna. Fun apẹẹrẹ:
    • Tọ: “Ṣe apejuwe irin-ajo ohun kikọ kan ni awọn gbolohun ọrọ mẹta.”
    • Abajade: “O rin laiyara. Lojiji, o sare. Lẹhinna, o rin. ”

Gbólóhùn ti o kẹhin tako iṣẹ iṣaaju ti ṣiṣiṣẹ, dabaru isokan ti alaye naa.

• Ikanju AI ni kiakia:
  • Iru yii waye nigbati idahun ti ipilẹṣẹ AI ṣe ikọlura pẹlu ibeere ti a pinnu tabi ibeere. Fun apere:
    • Tọ: "Kọ ilana kan fun akara oyinbo chocolate."
    • Ijade: "Eyi ni ewi kan nipa awọn irawọ."

Akoonu ti o ṣe ipilẹṣẹ ko mu itọsẹ ti o jọmọ sise mu, nfihan ikuna lati loye ọrọ-ọrọ naa.

• Otitọ AI hallucination:
  • Awọn itakora otitọ dide nigbati awoṣe AI ṣafihan alaye eke bi deede. Fun apẹẹrẹ:
    • Tọ: “Ṣakojọ awọn eroja mẹta ninu tabili igbakọọkan.”
    • Abajade: “Hydrogen, Oxygen, Carbonite.”

“Carbonite” kii ṣe ipin kan, ti o yori si alaye ti ko tọ ninu idahun.

• Ko ṣe pataki tabi laileto AI hallucinations:
  • Awọn hallucinations wọnyi kan iran ti ko ṣe pataki tabi alaye isọkusọ ti ko ni ibatan si titẹ sii. Fun apere:
    • Tọ: “Ṣapejuwe ọjọ kan ni eti okun.”
    • Abajade: “Iyanrin gbona. Seagulls kọrin jazz. Penguins jó ballet.”

Awọn mẹnuba ti penguins ati ballet ko ni ibamu pẹlu oju iṣẹlẹ eti okun ti o jẹ aṣoju, ti n ṣe afihan aini isokan ninu alaye ti ipilẹṣẹ.

Awọn iru awọn ipalọlọ wọnyi tẹnumọ awọn italaya ti awọn eto AI koju ni oye ati sisọ alaye alaye ni deede. Sisọ awọn ọran wọnyi nilo imudara didara data ikẹkọ, isọdọtun oye awọn awoṣe ede ti ọrọ-ọrọ, ati imuse awọn ilana afọwọsi ti o lagbara lati rii daju ibaramu ati deede ti awọn abajade ti ipilẹṣẹ AI.

AI hallucinations le ni awọn abajade to ṣe pataki, paapaa ni awọn ohun elo nibiti AI ti lo lati ṣe awọn ipinnu pataki, gẹgẹbi iwadii iṣoogun tabi iṣowo owo. Ti eto AI kan ba jẹ ki o pese alaye ti ko pe ni awọn aaye wọnyi, o le ja si awọn abajade ipalara.

Kini o le ṣe nipa awọn hallucinations AI?

Idinku awọn hallucinations AI jẹ awọn igbesẹ bọtini diẹ lati jẹ ki awọn eto AI jẹ deede ati igbẹkẹle:

Ni akọkọ, o ṣe pataki lati lo data didara to dara lati kọ AI. Eyi tumọ si rii daju pe alaye AI kọ lati oriṣiriṣi, deede, ati ominira lati awọn aiṣedeede.

Ṣiṣaro awọn awoṣe AI tun le ṣe iranlọwọ. Awọn awoṣe eka le ma ja si awọn aṣiṣe airotẹlẹ. Nipa mimu awọn nkan rọrun, a le dinku awọn aye ti awọn aṣiṣe.

Awọn ilana mimọ ati irọrun lati loye ṣe pataki paapaa. Nigbati AI ba gba awọn igbewọle ko o, o kere julọ lati ni idamu ati ṣe awọn aṣiṣe.

Idanwo deede ṣe iranlọwọ lati mu eyikeyi awọn aṣiṣe ni kutukutu. Nipa ṣayẹwo bi AI ṣe n ṣiṣẹ daradara, a le ṣatunṣe eyikeyi awọn ọran ati ṣe awọn ilọsiwaju.

Ṣafikun awọn sọwedowo laarin awọn eto AI tun le ṣe iranlọwọ. Awọn sọwedowo wọnyi wo awọn aṣiṣe ati ṣatunṣe wọn ṣaaju ki wọn fa awọn iṣoro.

Ni pataki julọ, abojuto eniyan jẹ pataki. Nini eniyan ni ilopo-ṣayẹwo awọn abajade ti ipilẹṣẹ AI ṣe idaniloju deede ati igbẹkẹle.

Nikẹhin, ikẹkọ AI lati daabobo lodi si awọn ikọlu le jẹ ki o tun pada si. Eyi ṣe iranlọwọ AI idanimọ ati koju pẹlu awọn igbiyanju lati ṣe afọwọyi tabi tan a.

Nipa titẹle awọn igbesẹ wọnyi, a le jẹ ki awọn ọna ṣiṣe AI ni igbẹkẹle diẹ sii ati dinku awọn aye ti awọn igbejade hallucinated.

Bawo ni o ṣe ṣe hallucinate AI kan?

Ti o ba fẹ lati ni anfani ti abawọn yii ati ni igbadun diẹ, o le ṣe awọn nkan diẹ:

• Yi igbewọle pada: O le tweak alaye ti a fi fun AI. Paapaa awọn iyipada kekere le jẹ ki o gbejade ajeji tabi awọn idahun ti ko tọ.
• Trick awọn awoṣe: Iṣẹ ọwọ pataki awọn igbewọle ti o tàn AI sinu fifun awọn idahun ti ko tọ. Awọn ẹtan wọnyi lo nilokulo awọn ailagbara awoṣe lati ṣẹda awọn abajade iṣojuuwọn.
• Ibanujẹ pẹlu data naa: Nipa fifi sinilona tabi alaye ti ko tọ si data ikẹkọ AI tabi itọsi rẹ, o le jẹ ki o kọ awọn ohun ti ko tọ ati gbejade awọn hallucinations.
• Ṣatunṣe awoṣe: Ṣatunṣe awọn eto AI tabi eto lati ṣafihan awọn abawọn tabi aibikita. Awọn ayipada wọnyi le fa ki o ṣe agbejade ajeji tabi awọn abajade isọkusọ.
• Fun iruju awọn igbewọlePese AI pẹlu koyewa tabi awọn ilana ilodi. Eyi le daru AI ki o yorisi awọn idahun ti ko tọ tabi aiṣe-ọrọ.

Tabi o le kan beere ibeere ati ki o gbiyanju rẹ orire! Fun apẹẹrẹ, a gbiyanju ati ṣe ChatGPT hallucinate:

Lakoko ti ChatGPT ṣe iranti deede ọjọ ati Dimegilio, o bajẹ ni iranti awọn oludibo ifiyaje. Fun Galatasaray, Ergün Penbe, Hakan Şükür, Ümit Davala, ati Popescu ni awọn ibi-afẹde naa. Ni ẹgbẹ Arsenal, Ray Parlor ni ẹlẹsẹ ijiya ti o ṣaṣeyọri nikan.

Lakoko ti ṣiṣe AI hallucinate le ṣe iranlọwọ fun wa ni oye awọn idiwọn rẹ, o ṣe pataki lati lo imọ yii ni ifojusọna ati rii daju pe awọn eto AI jẹ igbẹkẹle ati igbẹkẹle.

Ṣe GPT 4 hallucinate kere si?

Bẹẹni, ni ibamu si awọn imọran ti o ṣe nipasẹ ile-iṣẹ ti o da lori Palo Alto ni lilo Awoṣe Igbelewọn Hallucination wọn, GPT-4 ṣe afihan oṣuwọn hallucination kekere ni akawe si awọn awoṣe ede nla miiran, ayafi Intel Neural Chat 7B (97.2%). Pẹlu iwọn deede ti 97% ati oṣuwọn hallucination ti 3%, GPT-4 ṣe afihan ipele giga ti deede ati itara kekere lati ṣafihan awọn hallucinations nigbati akopọ awọn iwe aṣẹ. Eyi tọkasi pe GPT-4 ko ni itara si ipilẹṣẹ ti ko tọ tabi awọn abajade isọkusọ ni akawe si awọn awoṣe miiran ti a ni idanwo ninu igbelewọn.

Ni apa isipade, diẹ ninu awọn awoṣe ti o munadoko ti o kere julọ wa lati Google. Google Palm 2 ṣe afihan oṣuwọn deedee ti 90% ati oṣuwọn hallucination ti 10%. Iwiregbe-refaini ẹlẹgbẹ rẹ ṣe paapaa buruju, pẹlu iwọn deede ti 84.2% nikan ati Dimegilio hallucination ti o ga julọ ti eyikeyi awoṣe lori igbimọ adari ni 16.2%. Eyi ni atokọ naa:

Ni akojọpọ, hallucination AI jẹ aṣiṣe ti a ṣe nipasẹ awọn eto AI nibiti wọn gbejade awọn abajade ti o jẹ asan tabi ti ko tọ nitori awọn abawọn ninu data ikẹkọ tabi ọna ti wọn ṣe ilana alaye. O jẹ fanimọra, sibẹsibẹ abala ti o nija ti AI ti awọn oniwadi ati awọn olupilẹṣẹ n ṣiṣẹ lati koju.

• SEO Agbara akoonu & PR Pinpin. Gba Imudara Loni.
• PlatoData.Network inaro Generative Ai. Fi agbara fun ara Rẹ. Wọle si Nibi.
• PlatoAiStream. Web3 oye. Imo Amugbadun. Wọle si Nibi.
• PlatoESG. Erogba, CleanTech, Agbara, Ayika, Oorun, Isakoso Egbin. Wọle si Nibi.
• PlatoHealth. Imọ-ẹrọ Imọ-ẹrọ ati Awọn Idanwo Ile-iwosan. Wọle si Nibi.
• Orisun: https://dataconomy.com/2024/04/11/what-exactly-is-an-ai-hallucination-and-why-does-it-matter/