🛡️ A brit szabályozók sietve értékelik a legújabb antropikus mesterséges intelligencia modell kockázatait, jelentette az FT ↗
A brit pénzügyi felügyeleti szervek állítólag gyorsan dolgoznak az Anthropic új Mythos modelljén, miután aggodalmak merültek fel, hogy az komoly gyengeségeket tárhat fel kritikus rendszerekben. A tárgyalásokon részt vesz az Angol Bank, az FCA, a Pénzügyminisztérium és a Nemzeti Kiberbiztonsági Központ – ami egy modellelőzeteshez képest félelmetes felállás.
Az aggodalom az, hogy a Mythos szokatlanul ügyes a szoftveres sebezhetőségek felkutatásában, annak ellenére, hogy az Anthropic szerint a bevezetés szigorúan korlátozott és a védekező biztonsági munkálatokra irányul. A bankok, biztosítók és tőzsdék várhatóan tájékoztatást kapnak, így ez most kevésbé tűnik laboratóriumi pletykának, és inkább infrastrukturális politikának.
🤖 A HumanX konferencián mindenki Claude-ról beszélt ↗
Úgy tűnt, az Anthropic megadta az alaphangot a HumanX-nél – ez volt a lényeg. A paneleken, a beszállítói beszélgetéseken és a folyosói beszélgetéseken keresztül Claude folyamatosan a felszínre került, mint az üzleti és kódolási munkafolyamatok számára leginkább keresett modell.
Ami feltűnt, az a ChatGPT körüli viszonylagos csend volt. A cikk azt sugallja, hogy az OpenAI-nak még mindig van mérete és tőkéje, de a konferencia hangulata Claude felé billent, mint az eszköz felé, amely jelenleg élesebb vállalati vonzerővel rendelkezik – vagy legalábbis úgy tűnik.
📄 Az Anthropic Claude for Wordje újabb kihívást jelent a Microsoft szoftverbirodalmának ↗
Az Anthropic kiadta a Claude for Word béta verzióját, amely a fejlesztői eszközként való megszokás helyett a mindennapi irodai szoftverekbe is beépül. Kattintható szakaszhivatkozásokkal válaszol a dokumentumokkal kapcsolatos kérdésekre, a formázás felborulása nélkül szerkeszti a kijelölt szöveget, és kezeli a követett változtatásokat.
A célközönség elég egyértelmű: dokumentumokkal teli csapatok, különösen a jogi és pénzügyi részleg. Ez több mint egy új funkció – ez egy közvetlen lökés a Microsoft hazai piacára, és egy meglehetősen szemtelen húzás.
🌐 A mesterséges intelligencia botjai kibányásszák a webet, és az antropikus robotok vezetik a mezőnyt ↗
A Cloudflare adatainak új vizsgálata azt mutatja, hogy a mesterséges intelligenciával működő vállalatok sokkal többet nyernek ki az internetről, mint amennyit visszaadnak. A legfontosabb statisztika a feltérképezés-hivatkozás arány – vagyis hogy a botok milyen gyakran kutatják át az oldalakat, szemben azzal, hogy milyen gyakran küldik vissza a felhasználókat –, és az Anthropic különösen rosszul szerepel.
Az Anthropic arányát 8800:1-nek adják, az OpenAI szintén magas, de jóval alacsonyabb. A lényeg a lényeg: a régi webes alku lényege az volt, hogy feltérképeztek minket, majd forgalmat küldtek nekünk. A mesterséges intelligencia által kidolgozott válaszmotorok megtartották az első részt, a másodikat pedig köddé olvadtották.
⚔️ Pillantás a fokozódó globális mesterséges intelligencia fegyverkezési versenyre, miközben az Egyesült Államok, Kína, Oroszország és mások sietve fejlesztenek mesterséges intelligenciával támogatott autonóm fegyvereket és védelmi rendszereket ↗
A legújabb katonai mesterséges intelligenciával foglalkozó tudósítások kevésbé a feltűnő bemutatókról, és inkább a stratégiai gyorsításról szólnak. A nagyhatalmak egyszerre erőltetik az autonóm és a mesterséges intelligencia által támogatott védelmi rendszereket, ami miatt az egész olyan, mint egy váltófutás, ahol mindenki megragadta a stafétabotot, és elfelejtette a fékeket.
Ez felveti a szokásos kérdéseket – kontroll, eszkaláció, elszámoltathatóság –, de most még sürgetőbben. Amint a mesterséges intelligencia mélyebben beépül a célzásba, a megfigyelésbe és a harctéri döntéshozatalba, a „kísérleti” szó úgy kezd hangzani, mint egy papír alapú címke valamin, ami már mozgásban van.
🏭 A japán SoftBank elindítja a hazai mesterséges intelligencia fejlesztésére szolgáló egységét ↗
A SoftBank összefogott a Sonyval, a Hondával és más japán vállalatokkal, hogy létrehozzanak egy új mesterséges intelligencia alapú vállalkozást, amely a „fizikai mesterséges intelligenciára” összpontosít – olyan modellekre, amelyek gépeket és robotokat irányítanak, nem csak szöveges válaszokat adnak. Ez egy más kategória, mint a szokásos chatbot verseny, és talán az érdekesebb is.
Az ambíció hatalmas, a tervek szerint egy nagyon nagy alapmodellre és egy hosszú kifutópályára irányul az ipari felhasználás felé. Ez részben nemzeti technológiai stratégia, részben egyfajta lázadó projekt, részben pedig mech anime igazgatósági ülésekkel.
GYIK
Miért vizsgálják az Egyesült Királyság szabályozó hatóságai az Anthropic Mythos modelljét?
A jelentések szerint a brit hatóságok potenciális kockázatnak tekintik a Mythos-t, mivel szokatlanul ügyes lehet a szoftveres sebezhetőségek felderítésében. A megbeszéléseken állítólag részt vesz az Angol Bank, az FCA, a Pénzügyminisztérium és a Nemzeti Kiberbiztonsági Központ. Az intézmények ezen kombinációja aggodalmat jelez a kritikus rendszerekre, különösen a pénzügyek és az infrastruktúra területén gyakorolt lehetséges hatások miatt.
Miben különbözik az Anthropic Mythos modell egy normál AI-kiadástól?
Az aggodalom nem egyszerűen az, hogy új modellről van szó, hanem az is, hogy különösen alkalmasnak tűnik a szoftveres gyengeségek felderítéséhez kapcsolódó védekező biztonsági munkára. Az Anthropic állítólag azt állítja, hogy a hozzáférés szigorúan korlátozott, ami arra utal, hogy a bevezetést óvatosabban kezelik, mint egy széles körű fogyasztói bevezetést. A gyakorlatban ez közelebb áll egy ellenőrzött biztonsági képességhez, mint egy szabványos chatbot-frissítés.
Miért kapott Claude ekkora figyelmet a HumanX konferencián?
A cikk szerint Claude többször is felmerült panelbeszélgetéseken, beszállítói beszélgetéseken és informális megbeszéléseken, mint erős opció az üzleti és kódolási munkafolyamatok számára. A cikk az Anthropicot úgy mutatja be, mint amelyik jelentős lendületet kapott a vállalati felhasználók körében az eseményen. Azt is sugallja, hogy a HumanX körüli hangulat visszafogottabb volt a ChatGPT-n, annak ellenére, hogy az OpenAI továbbra is jelentős méretekkel és erőforrásokkal rendelkezik.
Mit tud valójában a Claude for Word a dokumentumokkal teli csapatok számára?
Az itt ismertetett bétaverzió úgy lett kialakítva, hogy dokumentumokon belül működjön, ne pedig egyszerűen önálló szöveget generáljon. Szakaszokra mutató hivatkozásokkal válaszolhat a dokumentummal kapcsolatos kérdésekre, a formázás megzavarása nélkül szerkesztheti a kiválasztott részeket, és kezelheti a követett változtatásokat. Ez különösen fontossá teszi a jogi, pénzügyi és egyéb csapatok számára, amelyeknek gondos áttekintésre van szükségük a vázlat helyett.
Mit mond a feltérképezés és a hivatkozás aránya a mesterséges intelligencia által vezérelt botokról és az internetről?
A cikk ezt az arányt egy olyan összehasonlítási alapként mutatja be, amely szerint a mesterséges intelligencia által működtetett vállalatok mennyi weboldalt térképeznek fel azzal, hogy milyen gyakran küldenek vissza felhasználókat. Ebben a keretrendszerben a nagyon magas arány kevés visszatérő forgalommal járó kinyerésre utal. Az Anthropic különösen rosszul teljesítőnek minősül ebben a mérőszámban, ami élesebbé teszi azt a szélesebb körű kritikát, miszerint a mesterséges intelligencia által működtetett válaszadómotorok gyengíthetik a régebbi webes indexelési cserét a hivatkozásokért cserébe.
Miért kötik az emberek az MI fejlődését mind az autonóm fegyverekhez, mind a fizikai MI-hez?
A cikk két összefüggő trendre mutat rá: a kormányok felgyorsítják a mesterséges intelligenciával támogatott védelmi rendszerek fejlesztését, valamint olyan vállalatok, mint a SoftBank, amelyek gépek és robotok irányítására tervezett modelleket támogatnak. Együttesen azt mutatják, hogy a mesterséges intelligencia a csevegésen és a keresésen túl olyan fizikai rendszerek felé halad, amelyek képesek érzékelni, dönteni és cselekedni. Ez nagyobb kérdéseket vet fel az irányítással, az elszámoltathatósággal, az ipari felhasználással és azzal kapcsolatban, hogy ezek a rendszerek milyen gyorsan válnak kísérleti állapotból működőképessé.