La Amazon likme uz mākslīgo intelektu mākonī Tas ir atklājis dažus operacionālos riskus. Decembra vidū Amazon Web Services (AWS) piedzīvoja ilgstošu darbības pārtraukumu galvenajā klientu iekšējā sistēmā, un dažādi avoti šo incidentu tieši saista ar mākslīgā intelekta aģentu izmantošanu programmēšanas un operacionālajiem uzdevumiem.
Notikušais ir no jauna uzjundījis Ļoti dzīvas debates Eiropas tehnoloģiju nozarēCik lielā mērā ir ieteicams deleģēt sensitīvus lēmumus mākslīgā intelekta asistentiem ražošanas vidē, īpaši, ja runa ir par kritiskām mākoņinfrastruktūrām, ko visā pasaulē izmanto uzņēmumi, valsts pārvaldes iestādes un digitālie pakalpojumi?
13 stundu ilgs traucējums AI aģentu pilnīgas ieviešanas laikā
Saskaņā ar avotiem, ko minējuši tādi plašsaziņas līdzekļi kā Financial Times un ReutersDecembra vidū AWS piedzīvoja aptuveni 13 stundu ilgu darbības pārtraukumu, kas ietekmēja sistēmu, ko klienti izmanto mākoņpakalpojumu izdevumu analīzei un izsekošanai. Šis pakalpojums, kas iekšēji pazīstams kā izmaksu pārvaldības rīks, ļauj uzņēmumiem visā pasaulē, tostarp daudziem Eiropā, rūpīgi uzraudzīt resursu patēriņu platformā.
Problēmas sakne slēpjas tajā, Kiro, AWS mākslīgā intelekta darbināmais kodēšanas aģentsUzņēmuma inženieri ļāva šai sistēmai, kas paredzēta, lai autonomi veiktu tehniskas darbības, pamatojoties uz cilvēku norādījumiem, veikt virkni izmaiņu ražošanas vidē ar mērķi atrisināt incidentu.
Vairāki cilvēki, kas ir iepazinušies ar šo jautājumu, apgalvo, ka Kiro, kas darbojas kā "autonoms" vai aģentsTika secināts, ka labākais veids, kā atrisināt problēmu, ir "dzēst un atjaunot vidi". Šis lēmums izraisīja izmaksu pārvaldības sistēmas avāriju un atstāja klientus bez normālas piekļuves šīm funkcijām aptuveni 13 stundas.
Traucējumi ietekmēja a unikāls pakalpojums, kas atrodas vienā no 39 AWS reģioniemKonkrēti, vienā no diviem reģioniem, ko uzņēmums uztur kontinentālajā Ķīnā. Amazon uzsver, ka skaitļošanas, krātuves, datubāzes un mākslīgā intelekta pakalpojumi netika apdraudēti un ka ietekme neattiecās uz citiem reģioniem, tostarp Eiropu. Šajā gadījumā pārtraukums aprobežojās ar vienu no AWS reģioni betons.
Papildus šim ģeogrāfiskajam ierobežojumam incidents ir piesaistījis uzmanību, jo tas ietver kritiski svarīgs atbalsta pakalpojums finanšu pārvaldībai mākoņdatošana, ko atbalsta biznesa klienti un organizācijas, kas darbojas tādos tirgos kā Spānija un Eiropas Savienība kopumā.
Konfliktējoši konti: mākslīgā intelekta kļūme vai cilvēciska kļūda?
Notikušā interpretācija nav vienprātīga. No vienas puses, Vairāki AWS darbinieki, kurus citē Financial Times Viņi apgalvo, ka tas nebija atsevišķs incidents. Viņi min vismaz divus nesenus ražošanas traucējumus, kuros notikumu ķēdes centrā bija uzņēmuma mākslīgā intelekta rīki — Kiro un Amazon Q Developer.
Augsta ranga AWS vadītājs pat paziņoja, ka "Mēs jau esam redzējuši vismaz divus ražošanas traucējumus" pēdējos mēnešos. Saskaņā ar viņu sniegto informāciju, inženieri ļāva mākslīgā intelekta aģentiem risināt problēmas bez tiešas cilvēka iejaukšanās, kas, viņuprāt, padarīja šādus incidentus diezgan paredzamus.
No šī kritiskākā iekšējā viedokļa, Mākslīgā intelekta rīki tiek uzskatīti par cilvēka operatora paplašinājumu Un praksē viņi manto tās pašas atļaujas un pilnvaras. Izmeklētajos gadījumos iesaistītajiem inženieriem nebija nepieciešams otrs cilvēka apstiprinājums, lai apstiprinātu izmaiņas ražošanā, kas pārkāpj ierasto kontroles un salīdzinošās pārskatīšanas protokolu.
No otras puses, uzņēmums aizstāv pavisam citu versiju. Amazon pārstāvis paziņojumā pa e-pastu, kas nosūtīts uz Reuters un citi plašsaziņas līdzekļiViņš uzstāj, ka incidents bija "īslaicīgs" un ka Iemesls slēpjas lietotāja kļūdā.nevis mākslīgajā intelektā. Viņš runā par nepareizi konfigurētām piekļuves kontrolēm, kas piešķīra pārmērīgas atļaujas inženierim, kurš vadīja Kiro.
"Šis īsais notikums bija saistīts ar lietotāja kļūda — proti, nepareizi konfigurētas piekļuves kontroles —, nevis mākslīgā intelekta kļūda“AWS pārstāvis uzsvēra, ka tā ir sakritība, ka tajā laikā tika izmantoti mākslīgā intelekta rīki, un ka “tā pati problēma varētu rasties ar jebkuru izstrādes rīku vai pat ar manuālu darbību”.
Kiro, Amazon Q izstrādātājs, un mākslīgā intelekta atbalstītas programmēšanas uzplaukums
Šis incidents notiek paplašināšanās laikā. Mākslīgā intelekta atbalstīta programmēšana AWS vidēIesaistītā sistēma Kiro tika palaista jūlijā kā izstrādes asistents, kas sniedzas tālāk par tipiskiem "koppilotiem": tā vietā, lai vienkārši ieteiktu koda fragmentus, tā ir paredzēta sarežģītu uzdevumu veikšanai, pamatojoties uz inženieru sniegtajām tehniskajām specifikācijām.
Amazon jau bija Amazon Q izstrādātājsMākslīgā intelekta darbināts tērzēšanas robots, kas paredzēts koda rakstīšanai, pārskatīšanai un pielāgošanai. Uzņēmuma darbinieki norāda, ka šis cits rīks bija saistīts ar otru nesen notikušu incidentu, kas arī bija saistīts ar pakalpojumu pārtraukumiem, lai gan šajā gadījumā ietekme neattiecas uz tiešajām klientu apkalpošanas sistēmām.
Uzņēmuma stratēģija ietver masveidā integrēt šos mākslīgā intelekta aģentus tehnisko komandu ikdienas darbā. Saskaņā ar iekšējiem avotiem AWS ir izvirzījis mērķi, lai gandrīz 80% izstrādātāju vismaz reizi nedēļā izmantotu mākslīgo intelektu programmēšanas uzdevumiem, un rūpīgi uzrauga ieviešanas rādītājus.
Šī apņemšanās ir ne tikai tehnoloģiska, bet arī saistīta ar uzņēmējdarbību. AWS ģenerē aptuveni aptuveni 60% no Amazon darbības peļņasTāpēc jebkurš progress produktivitātes un izmaksu samazināšanas jomā, izmantojot mākslīgo intelektu, tiek uzskatīts par būtisku, lai saglabātu tā vadošo lomu salīdzinājumā ar citiem lielākajiem mākoņpakalpojumu sniedzējiem, piemēram, Microsoft Azure vai Google Cloud, kas arī intensīvi konkurē Eiropā un Spānijā.
Tomēr šīs epizodes ir pastiprinājušas skepticisms no daļas darbinieku pusesDaži darbinieki apšauba, vai mākslīgā intelekta rīki sniedz pietiekami daudz priekšrocību, lai atsvērtu riskus, kas saistīti ar to lietošanu jutīgā vidē, īpaši, ja tie vēl ir relatīvi agrīnā brieduma stadijā.
Papildu drošības pasākumi un bažas par uzticamību
Lai gan mākslīgā intelekta loma tiek noniecināta, dažādi avoti apgalvo, ka Pēc decembra darbības pārtraukuma AWS ir pastiprinājis savu iekšējo drošības politiku.Īstenotie pasākumi ietvertu obligātu salīdzinošo pārskatīšanu noteiktai piekļuvei ražošanas vidēm, pārmērīgu atļauju ierobežošanu un pastiprinātu uzraudzību pār darbībām, ko mākslīgā intelekta aģenti var veikt bez tiešas cilvēka iejaukšanās.
Šīs iniciatīvas saskan ar daudzu klientu, tostarp eiropiešu, bažām: Cik droši ir automatizēt kritiski svarīgus lēmumus? mākoņinfrastruktūrās, kur nepareizas konfigurācijas izmaiņas var ietekmēt finanšu pakalpojumus, e-komerciju, loģistiku vai e-pārvaldi.
Savukārt Amazon apgalvo, ka pēc noklusējuma Kiro vienmēr lūdz atļauju pirms rīcībasUzņēmums norādīja, ka konkrētā problēma decembra incidentā radās tāpēc, ka iesaistītajam inženierim bija "plašākas atļaujas nekā paredzēts". Pēc uzņēmuma domām, tas notikumu klasificētu kā cilvēcisku kļūdu atļauju izstrādē, nevis neparedzamu mākslīgā intelekta uzvedību.
Tikmēr AWS uzstāj, ka Nav atrasti pierādījumi tam, ka, izmantojot mākslīgā intelekta rīkus, kļūdas rodas biežāk. nekā strādājot ar tradicionālajām metodēm. No uzņēmuma viedokļa šāda veida sistēmas ir vienkārši esošo izstrādes darbplūsmu paplašinājums, nevis pēc būtības mazāk drošs elements.
Tomēr oficiālo paziņojumu un iekšējo liecību sadursme atkal aktualizē jautājumu par atbildība par automatizācijas izraisītiem incidentiem: kura daļa atbilst mākoņpakalpojumu sniedzējam, kura daļa – atļauju un cauruļvadu projektēšanai un kas tiek pieņemts kā raksturīgs tehnoloģiskais risks.
Ietekme uz klientiem un citu būtisku lejupslīžu konteksts
Šajā konkrētajā gadījumā pārtraukuma apjoms bija ģeogrāfiski ierobežots ar kontinentālās Ķīnas reģionu Amazon tagad piedāvā vienotu izmaksu pārvaldības pakalpojumu. Amazon uzsver, ka decembra elektroenerģijas padeves pārtraukums neietekmēja klientus citos reģionos, tostarp infrastruktūru, ko uzņēmums pārvalda Eiropā, lai nodrošinātu atbilstību ES noteikumiem.
Uzņēmums arī uzsver, ka svarīgi pakalpojumi, piemēram, skaitļošana, glabāšana, datubāzes un pašas mākslīgā intelekta platformas Viņi turpināja darboties normāli. Citiem vārdiem sakot, tā nebija vispārēja mākoņpakalpojumu darbības pārtraukuma, bet gan lokalizēts traucējums papildinošā rīkā, lai arī tāds, kas bija būtisks izmaksu kontrolei.
Pat ja tā, epizode tiek interpretēta, ņemot vērā citi iepriekšējie lielāka mēroga traucējumiOktobrī nopietna Amazon mākoņpakalpojumu darbības pārtraukuma dēļ radās globāli traucējumi, kas ietekmēja gan uzņēmuma paša pakalpojumus, gan populāras lietotnes, sākot no sociālajiem tīkliem līdz videospēļu un ziņojumapmaiņas platformām.
Šāda veida incidenti, ko atceras nozare, kalpo par fonu, lai novērtētu Eiropas klientu tolerance pret kritiskās infrastruktūras kļūmēmSituācijā, kad daudzi uzņēmumi Spānijā un ES migrē galvenās sistēmas uz mākoņpakalpojumiem, katrs traucējums no jauna atver debates par tehnoloģisko atkarību, noturību, ārkārtas rīcības plāniem un piegādātāju diversifikāciju.
Mākoņpakalpojumu operatoriem izaicinājums slēpjas mākslīgā intelekta inovāciju līdzsvarošana ar stabilitātes garantijāmSpiediens iekļaut autonomākus un jaudīgākus aģentus pastāv līdzās regulatīvajām un atbilstības prasībām tādos tirgos kā Eiropas, kur turpmākajos mākslīgā intelekta regulējumos un kibernoturības standartos būs jāpamato šie dizaina un drošības lēmumi.
Viss, kas notika saistībā ar decembra AWS darbības pārtraukumu, ilustrē mākoņdatošanas pašreizējo stāvokli: nobriedusi un kritiski svarīga infrastruktūra, kas sāk paļauties uz arvien spējīgāki mākslīgā intelekta aģentiTaču vienlaikus tai ir jāstiprina kontrole, lai novērstu automatizācijas kļūšanu par jaunu riska avotu. Lai gan Amazon apgalvo, ka cēlonis bija vienkārša cilvēciska kļūda, un noniecina incidenta ietekmi, iekšējie pārskati, kas tieši saista mākslīgā intelekta rīkus ar vismaz diviem neseniem darbības pārtraukumiem, liecina, ka debates par to, kā un cik lielā mērā deleģēt šīm sistēmām, nebūt nav beigušās gan uzņēmumā, gan starp tā klientiem Eiropā un pārējā pasaulē.
