- „Microsoft“ naudojimo sąlygose „Copilot“ nurodoma kaip „skirta tik pramogoms“ ir vartotojai įspėjami nepasikliauti ja svarbiems patarimams gauti.
- Šis atsakomybės apribojimas prieštarauja daugelio metų „Copilot“ reklamai kaip pagrindinei produktyvumo ir verslo priemonei, skirtai „Windows“, „Microsoft 365“ ir „Copilot+“ kompiuteriams.
- Tyrėjai atkreipia dėmesį į tokias rizikas kaip automatizavimo šališkumas, haliucinacijos ir sumažėjusi kūrybinė įvairovė, kai komandos pernelyg remiasi generatyviniu dirbtiniu intelektu.
- Ekspertai ragina startuolius, įmones ir kasdienius vartotojus išlaikyti žmonių priežiūrą, dokumentų naudojimą ir vengti deleguoti svarbius sprendimus „Copilot“.
Jau daugelį metų „Microsoft“ reklamuoja „Copilot“ kaip išmanųjį asistentą, kuris pakeistų kasdienį darbą, įpindamas jį į... „Windows“, „Microsoft 365“, „Edge“ ir įmonės darbo eigosŽinia buvo aiški: tai buvo naujos produktyvumo eros pagrindas, galintis rengti dokumentus, analizuoti duomenis ir padėti automatizuoti verslo užduotis.
Šis pasakojimas dabar susiduria su keistu posūkiu. Atnaujintose oficialiose naudojimo sąlygose „Copilot“ apibūdinamas kaip „Tik pramogoms“ ir aiškiai įspėja žmones nepasikliauti ja svarbiais ar daug rizikos turinčiais sprendimais, įskaitant finansines, teisines ar medicinines konsultacijas. Šis pokytis sukėlė plačias diskusijas apie tai, kiek iš tikrųjų galima pasitikėti generatyviniu dirbtiniu intelektu ir kas nutinka, kai rinkodaros pažadai prieštarauja teisiniam smulkiu šriftu pateiktam tekstui.
Ką iš tikrųjų reiškia „tik pramogoms“
„Microsoft“ dokumentacijoje yra trumpa, bet daug pasakanti pastaba: „Copilot“ yra „Tik pramogoms. Gali pasitaikyti klaidų ir neveikti taip, kaip tikėtasi. Nesiremkite svarbiais patarimais iš „Copilot“. Naudokite „Copilot“ savo pačių rizika.“ Praktiškai tai yra „Microsoft“ teiginys, kad sistemos išvesties negalima laikyti tikslia, išsamia ar tinkama svarbiems sprendimams priimti.
Ši kalba nėra visiškai neįprasta dirbtinio intelekto pasaulyje, tačiau jos tonas ryškus, atsižvelgiant į tai, kaip glaudžiai „Copilot“ yra susijęs su kasdieniu darbu. Generatyviniai modeliai gali haliucinuoti faktus, siūlyti pasenusi arba šališka informacija ir sukurti kodą ar rekomendacijas, kurios atrodo įtikinamos, bet realiose situacijose neveikia. Bendrovė iš esmės primena vartotojams, kad nesvarbu, kokie užtikrintai skamba atsakymai, „Copilot“ nėra neklystantis ekspertas.
Atsakomybės apribojimas dar svarbesnis tais atvejais, kai sprendimai turi realių pasekmių. Pavyzdžiui, startuoliuose įkūrėjai gali būti linkę pasikliauti „Copilot“, kad šie parengtų investuotojų paketus, sukurtų produktų idėjų prototipus ar net suformuotų strategiją. Tokiuose sektoriuose kaip finansinių technologijų, sveikatos priežiūros ar teisinių paslaugųnaudojant nepatikrintus dirbtinio intelekto duomenis gali kilti reguliavimo, etikos ir atitikties problemų.
„Microsoft“ teisininkų komanda iš esmės brėžia ribą: įrankis gali padėti ir įkvėpti, tačiau galutinė atsakomybė tenka žmogui, kuris nusprendžia vadovautis jo pasiūlymais.
Ryškus kontrastas su ilgamete produktyvumo rinkodara
Ginčai kyla dėl atotrūkio tarp šio atsargaus teisinio reglamentavimo ir to, kaip buvo pristatyta „Copilot“. „Microsoft“ agresyviai pavadino „Copilot“ kaip produktyvumo daugiklis, integruotas visoje jos ekosistemoje„Windows 11“ sistemoje kaip visos sistemos pagalbininkas, „Microsoft 365“ kaip pagalbininkas „Word“, „Excel“, „Outlook“ ir kituose paketuose, o „GitHub“ – kaip dirbtinio intelekto kodavimo partneris. Specialūs „Copilot+“ kompiuteriai ir net specialus „Copilot“ klavišas naujose klaviatūrose pabrėžia, kad tai ne šalutinis projektas, o pavyzdinė patirtis.
Reklama ir pristatymai pozicionavo „Copilot“ kaip naujos darbo dienos variklį, įrankį ataskaitoms rašyti, skaičiuoklėms analizuoti, ilgiems el. laiškų srautams apibendrinti ir netgi padėti sudėtinguose verslo darbo eigose. Įmonėms, mokančioms apie $ 30 vienam vartotojui per mėnesį Kai kuriuose „Copilot“ pasiūlymuose jis reklamuojamas kaip rimtas įmonės lygio asistentas, o ne žaislas.
Atsižvelgiant į tai, daugeliui stebėtojų bendrose naudojimo sąlygose įrankio vadinimas „pramoga“ skamba kaip bandymas sumažinti lūkesčius nekoreguojant komercinės strategijos. Kritikai teigia, kad sunku vartotojams pasakyti, jog „Copilot“ yra profesinio produktyvumo pagrindas, ir pridurti, kad jie neturėtų ja pasikliauti jokiais svarbiais klausimais.
Painiavą dar labiau padidina tai, kad netechniniams vartotojams skirtingi „Copilot“ variantai susilieja. nemokamos arba vartotojams skirtos versijos yra supakuoti į tą patį prekės ženklą kaip ir įmonių versijos, kurios veikia pagal konkretesnes sutartis ir paslaugų įsipareigojimus. Iš išorės jie atrodo kaip tas pats asistentas, net jei pagrindinės garantijos nėra identiškos.
Tyrimai: automatizavimo šališkumas, haliucinacijos ir ribotas kūrybiškumas
„Microsoft“ atsargumo priežastis – platesnis tyrėjų ir reguliavimo institucijų susirūpinimas: žmonės linkę suteikti dirbtinio intelekto sistemoms daugiau įgaliojimų, nei jos nusipelno. Tarptautinis tyrimas, kurį koordinavo... Europos transliuotojų sąjunga (EBU) nustatė, kad daugelis vartotojų priima atsakymus iš tokių asistentų kaip „ChatGPT“ ar „Copilot“ su minimaliais klausimais, net jei juose yra subtilių ar akivaizdžių klaidų.
Šis elgesys vadinamas automatizavimo šališkumu: žmogaus polinkis teikti pirmenybę automatizuotų sistemų rezultatams, ypač kai jie pateikiami aiškiu ir užtikrintu tonu. Generatyvūs dirbtinio intelekto atsakymai dažnai būna ilgi, gerai struktūrizuoti ir lingvistiškai išbaigti, todėl gali susidaryti ekspertiškumo įspūdis net tada, kai turinys yra neišsamus, klaidinantis ar tiesiog neteisingas.
Kita tyrimų kryptis orientuota į kūrybiškumą. Tyrimai, paskelbti 2013 m. Gamtos ir žmogaus elgesio teorija bei Vartono universiteto akademikų darbai parodė, kad nors modeliai gali labai greitai sugeneruoti daug idėjų, tos idėjos dažnai labai sutampa. Kai kuriuose eksperimentuose daugiau nei 90 % dirbtinio intelekto sugeneruotų pasiūlymų buvo sugrupuoti aplink panašias koncepcijas, o žmonių minčių audros sesijų metu buvo gauta platesnė krypčių įvairovė.
Įmonėms ir švietimo įstaigoms tai kelia nemalonią galimybę: jei komandos pakeis bendradarbiaujančias, žmonių inicijuojamas idėjas vien dirbtinio intelekto valdomais darbo eigomis, jos gali paspartinti gamybą, tačiau susiaurinti savo kūrybinius akiračius. Rezultatas gali atrodyti išbaigtas, tačiau jam gali trūkti įvairovės ir originalumo, atsirandančio dėl skirtingos patirties turinčių žmonių bendro mąstymo. Ekspertai pabrėžia, kad žmogaus kūrybiškumas, kontekstas ir vertinimas išlieka esminiai, ypač inovacijų ir problemų sprendimo srityse.
Vidinė įtampa „Microsoft Copilot“ strategijoje
„Copilot“ nėra nišinis eksperimentas, paslėptas laboratorijoje; jis yra iš anksto įdiegtas ir giliai įpintas į sistemą. kasdienėje milijonų vartotojų skaičiavimo aplinkoje„Windows 11“ sistemoje jis yra vos už vieno paspaudimo užduočių juostoje, „Office“ programos rodo dirbtinio intelekto sugeneruotus juodraščius ir santraukas, o „GitHub Copilot“ tapo pažįstama bendraautorės funkcija kūrėjams. Prekės ženklas išaugo į skėtį, apimantį platų dirbtinio intelekto valdomų funkcijų spektrą.
Dėl šio visur esančio pobūdžio „Microsoft“ kalba, skirta tik pramogoms, dar labiau glumina. Jei tas pats asistentas, kuris padeda rašyti sutartis, skaidrių demonstracijas ir taisyti kodą, teisiškai apibūdinamas kaip pramoga, vartotojai svarsto, kur yra riba tarp žaismingo eksperimentavimo ir profesionalios priklausomybės. Kai kuriems susidaro įspūdis, kad bendrovė bando mėgautis reputacijos privalumais, būdama dirbtinio intelekto produktyvumo lydere. teisinio poveikio mažinimas kai viskas klostosi ne taip.
Naudojimo sąlygos neapsiriboja vien tikslumu. „Microsoft“ taip pat nurodo, kad „Copilot“ gali įtraukti reklama, automatizuota ir žmonių atliekama duomenų peržiūrair kad eksperimentinės funkcijos pagal tokias iniciatyvas kaip „Copilot Labs“ gali būti bet kada pakeistos, sulėtintos arba pašalintos. Formuluotėje pabrėžiama, kad našumas, greitis ir funkcijų rinkinys negarantuojami ir gali būti koreguojami vienašališkai.
Tuo pačiu metu ataskaitos rodo, kad ne visi „Copilot“ pažadai virto masiniu pritaikymu, ypač mokamų paslaugų srityje. Vidiniai vertinimai ir išorinė apžvalga parodė, kad klaidos, haliucinacijos ir kai kurios funkcijos, pažymėtos kaip vos naudojamosTai, kad įrankį naudoja apie keli procentai tinkamų „Office“ naudotojų, rodo, jog entuziazmas aprimsta, kai organizacijos jį išbando realiose darbo eigose.
Vis dėlto platesnė „Microsoft“ finansinė padėtis išlieka stipri. Tradicinės debesijos ir programinės įrangos linijos ir toliau duoda tvirtas pajamas ir pelną, suteikdamos bendrovei finansinę erdvę agresyviai investuoti į dirbtinio intelekto infrastruktūrą – duomenų centrus, lustus ir tyrimus – net jei „Copilot“ veiklos pradžia bus lėtesnė ir painesnė nei iš pradžių skelbta.
Kaip „Microsoft“ atrodo, palyginti su kitais dirbtinio intelekto tiekėjais
Svarbu pažymėti, kad „Microsoft“ nėra vienintelė bendrovė, pridedanti išlygų. Kiti pagrindiniai dirbtinio intelekto tiekėjai, įskaitant Atvirasis dirbtinis intelektas ir xAItaip pat paskelbė aiškius įspėjimus apie savo sistemų ribas. Pavyzdžiui, „OpenAI“ pabrėžia, kad jos produktai neturėtų būti laikomi vieninteliu faktinės informacijos šaltiniu, o „xAI“ įspėja apie galimas haliucinacijas, įžeidžiantį turinį ar netikslius žmonių ir įvykių vaizdavimus.
Šie pranešimai atspindi didelių kalbos modelių tikimybinį pobūdį: jie generuoja tekstą numatydami tikėtinus kitus žetonus pagal mokymo duomenų šablonus, o ne pagal faktų tikrinimas pagal naujausią, kuruojamą žinių bazęTodėl jie gali pateikti atsakymus, kurie skamba pagrįstai, bet neatitiks pagrindinių patikrinimų, kuriuos atliktų žmogus ekspertas. Patyrusiems vartotojams tai beveik savaime suprantama, tačiau daugelis žmonių, pirmą kartą bendraujančių su pokalbių robotais, nežino apie šiuos apribojimus.
Sunkumas slypi tame, kaip šie įrankiai suvokiami. Kai asistentas integruojamas į pažįstamą operacinę sistemą, pateikiamas patogioje sąsajoje ir reklamuojamas kaip bendradarbis, psichologinis atstumas tarp „tai naudinga“ ir „tai turi būti teisinga“ greitai sumažėja. Teisiniai atsakomybės apribojimai gali techniškai apsaugoti įmonę, tačiau jie ne visada pakeičia naudotojų elgesį sprendimų priėmimo etape.
„Microsoft“ kai kuriose žiniasklaidos priemonėse pateiktuose komentaruose nurodė, kad dalis pramogų srities formuluotės yra pasenusi ir bus peržiūrėta, kad geriau atspindėtų, kaip „Copilot“ naudojamas šiandien. Vis dėlto, kol šie pakeitimai nebus įtraukti į oficialius dokumentus, dabartinė formuluotė ir toliau kursto diskusijas apie tai, kiek rimtai pati bendrovė vertina šį įrankį profesiniame kontekste.
Rizika realiame pasaulyje diegiant ir automatizavimo šališkumas
Be teorijos, yra ir praktinių pavyzdžių, kas gali nutikti ne taip, kai organizacijos pernelyg remiasi generatyviniu dirbtiniu intelektu. Didelių debesijos paslaugų teikėjų incidentų apžvalgose aprašyti atvejai, kai Dirbtinio intelekto palaikomi įrankiai prisidėjo prie paslaugų teikimo sutrikimų, po to, kai automatizuotoms sistemoms buvo leista įdiegti pakeitimus arba derinti problemas nepakankamai prižiūrint žmonėms. Kai kuriose ataskaitose vyresnieji inžinieriai turėjo įsikišti po to, kai dirbtinio intelekto palaikomos darbo eigos sukėlė kaskadinių problemų.
Šie scenarijai iliustruoja, kaip mažos modelio klaidos gali būti išdidintos sudėtingose infrastruktūrose. Neteisingai interpretuotas žurnalas, neteisingas konfigūracijos pakeitimas ar ydingas kodo pasiūlymas gali atrodyti nereikšmingi, tačiau glaudžiai susietoje paskirstytoje sistemoje tai gali sukelti netikėtų sutrikimų. Ta pati logika galioja ir už infrastruktūros ribų: dirbtinio intelekto parengtas el. laiškas pagrindiniam klientui, neteisingai apskaičiuotas skaičius finansiniame modelyje ar prastai suformuluota teisinė sąlyga gali turėti per didelių pasekmių.
Automatizavimo šališkumas sustiprina šią riziką. Kai procesas iš dalies automatizuojamas, kyla natūrali pagunda pasitikėti mašina ir dirbti greičiau. Jei vadovai ir inžinieriai mano, kad „įrankis žino, ką daro“, jie gali praleisti veiksmus, kurių visiškai rankiniame procese niekada ignoruotų. Pats dirbtinio intelekto valdomo efektyvumo naratyvas gali spausti komandas sumažinti laiką, kurį jos skiria asistento darbo tikrinimui.
Būtent todėl „Microsoft“ dokumentuose vartotojams nuolat primenama nepasikliauti „Copilot“ „svarbių patarimų“ gavimu ir jais naudotis savo pačių atsakomybe. Bendrovė pripažįsta, kad aplinkoje, kurioje svarbus našumas, saugumas ir patikimumas, žmogaus peržiūra nėra privaloma bet integruotas atsakingo naudojimo reikalavimas.
Pasekmės startuoliams, įmonėms ir kasdieniams vartotojams
Įkūrėjams ir technologijų komandoms, ypač regionuose, kuriuose trūksta išteklių, o dirbtinio intelekto įrankiai atrodo kaip ekonomiškai efektyvus būdas, „Copilot“ atsakomybės apribojimas primena, kad sistemas reikia kurti prižiūrint, o ne aklai pasitikint. Daugelis startuolių Lotynų Amerikoje ir kitur pasikliauja... be kodo platformos ir generatyvinis dirbtinis intelektas greitai plėstis. Šiame kontekste labai svarbu dokumentuoti, kur naudojamas dirbtinis intelektas, kokius sprendimus jis daro įtaką ir kaip vykdomi žmonių atliekami patikrinimai.
Patarėjai dažnai siūlo įmonėms pradėti taikyti „Copilot“ mažos rizikos, didelės apimties užduotims: rengti vidinius el. laiškus, apibendrinti susitikimų protokolus, generuoti pirmojo perdavimo kodo fragmentus arba kurti rinkodaros tekstą, kurį redaguos žmonės. Dėl bet ko, kas turi įtakos atitikčiai, saugumui, finansams ar teisiniam poveikiui, dirbtinio intelekto išvestis turėtų būti traktuojama kaip pasiūlymai, kuriuos reikia peržiūrėti eilutė po eilutės, o ne kaip galutiniai verdiktai.
Taip pat yra pasitikėjimo komponentas. Klientai ir investuotojai vis dažniau klausia, kaip dirbtinis intelektas naudojamas produktuose ir operacijose. Aiškus bendravimas apie tokių įrankių kaip „Copilot“ ribas kartu su įrodymais apie jų veiksmingumą. kokybės kontrolė ir žmogaus patvirtinimas, gali tapti konkurenciniu pranašumu. Startuoliai, kurie DI pateikia kaip griežtai prižiūrimą asistentą, greičiausiai įkvepia daugiau pasitikėjimo nei tie, kurie jį pateikia kaip viską žinantį sprendimų priėmimo variklį.
Individualiems vartotojams išvada yra aiškesnė: „Copilot“ gali sutaupyti laiko, padėti tyrinėti idėjas ir sklandžiau valdyti kasdienius kompiuterius, tačiau tai neturėtų būti paskutinis žodis apie tai, kas iš tiesų svarbu. Nesvarbu, ar klausimas susijęs su medicininiais simptomais, investavimo pasirinkimais, teisėmis ar jautriais asmeniniais sprendimais, konsultacijos yra paprastesnės. kvalifikuoti žmonės specialistai ir patikimi pirminiai šaltiniai išlieka esminis.
Visais šiais atvejais formuojasi subalansuotas požiūris. Organizacijos, kurios daugiausia naudos iš „Copilot“ ir panašių įrankių, paprastai yra tos, kurios juos derina su nusistovėjusiais procesais, informuoja žmones apie procesą ir priešinasi pagundai perduoti kritinį vertinimą tikimybių varikliui.
Galiausiai, pačios „Microsoft“ formuluotė atspindi dabartinę generatyvinio dirbtinio intelekto būklę sąžiningiau nei pačios nugludinčiausios jos rinkodaros linijos. „Copilot“ gali būti įspūdingas asistentas, galintis paspartinti įprastas užduotis ir nustatyti naujas kryptis, tačiau jo pavadinimas „tik pramogoms“ pabrėžia paprastą dalyką: technologija yra galinga, bet ir klaidinga, o tikrasis jo poveikis priklauso nuo to, kaip atsargiai žmonės nusprendžia jį naudoti. Kol kas žmogaus priežiūra, skepticizmas ir kontekstas vis dar yra pagrindinės apsaugos priemonės, kai dirbtinio intelekto pasiūlymai paverčiami realiais veiksmais.
