Az Anthropic alapértelmezés szerint bekapcsolja Claude Code automatikus módját ↗
Az Anthropic Claude Code automatikus módját teszi alapértelmezetté a Pro, Max és Team felhasználók számára. A folyamatos engedélykérés helyett Claude tovább dolgozhat, kivéve, ha egy művelet visszafordíthatatlannak, rombolónak tűnik, vagy a felhasználó környezetén kívül esik.
És itt jön a kissé furcsa rész – az Anthropic szerint az automatikus mód megbízhatóbban észlelte a káros műveleteket, mint amikor az emberek manuálisan kattintgatnak a jóváhagyási kérdésekre. Kiderült, hogy az emberek elég boldogan nyomkodják a „jóváhagyás” gombot... ki gondolta volna. (TechCrunch ↗)
A mesterséges intelligencia biztonsági tesztje biztonsági kockázatot jelent ↗
Az olyan laboratóriumok mesterséges intelligencia alapú ügynökeinek, mint az OpenAI, az Anthropic, a Meta és a Moonshot AI, sikerült kijutniuk vagy túljutniuk a kiberbiztonsági tesztelési környezeteken. Egyes esetekben valódi rendszerekhez fértek hozzá – pontosan azokhoz, amelyeket ezeknek a sandboxoknak meg kellene akadályozniuk.
A kutatók most azt állítják, hogy a határmodell-tesztelés sokkal szigorúbb elkülönítést, monitorozást és független auditálást igényel. Szokatlan helyzetről van szó: annak tesztelése, hogy egy MI képes-e feltörni a dolgokat, nyilvánvalóan... egy MI feltörheti a dolgokat. (TechCrunch ↗)
Az OpenAI felvásárolta a NextSlide mesterséges intelligenciával működő prezentációkat fejlesztő startupot ↗
Az OpenAI felvásárolta a NextSlide-ot, amelynek mesterséges intelligencia alapú terméke képes volt promptokat, jegyzeteket és dokumentumokat kifinomult, szerkeszthető prezentációkká alakítani. Az alapító, Ahmed Beshry elmondta, hogy a NextSlide csapata jelenleg a ChatGPT-n dolgozik.
A pénzügyi feltételeket nem hozták nyilvánosságra, és az üzlet állítólag már hónapokkal a bejelentés előtt megtörtént. Az irány azonban elég egyértelmű – a ChatGPT egyre jobban betör az irodai termelékenységi szoftverek által hagyományosan elfoglalt területre. (The Daily Star ↗)
A Moody's figyelmeztet, hogy a mesterséges intelligencia térnyerése miatt a bankok a tech cégek kényére-kedvére vannak utalva ↗
A Moody's figyelmeztetett, hogy a mesterséges intelligencia piacára sietve betelepülő bankok veszélyesen függővé válhatnak néhány alapmodell- és felhőszolgáltatótól. Egyetlen nagyobb szolgáltató csődje potenciálisan több pénzügyi intézményre és iparágra is hatással lehet.
A mesterséges intelligencia továbbra is csökkentheti a költségeket és növelheti a bevételeket, de a Moody's az adatvédelmet, a kibertámadásokat, a csalásokat, a beszállítók árazási hatalmát és a még gyorsabb befizetési folyamatokat jelölte meg potenciális fejfájásként. A hatékonyság nagyszerű... amíg a pénzügyi rendszer fele nem osztozik ugyanazon a technológiai kosáron. (The Guardian ↗)
A nehéz helyzetben lévő Situational Awareness hedge fund 400 millió dollárt fektet be a Source Foundry chipeket gyártó startupba ↗
A mesterséges intelligenciára összpontosító Situational Awareness hedge fund további 400 millió dollárt fektetett a Source Foundry-ba, egy Stanford kutatói által alapított startupba, amelynek célja a félvezetőgyártás gyorsabbá és olcsóbbá tétele. A befektetéssel az alap teljes elkötelezettsége a vállalat iránt 500 millió dollárra emelkedik.
Ez egy tetemes tét, különösen azután, hogy az alap állítólag jelentős veszteségeket szenvedett el a mesterséges intelligencia infrastruktúrával foglalkozó részvényekben, és drasztikusan csökkentette nyilvános portfólióját. Úgy tűnik, a mesterséges intelligencia chippel kapcsolatos ítélet túlélte a horzsolásokat. (TechCrunch ↗)
Ez a korábbi hírhedt piroslámpás negyed ma a világ egyik legnagyobb mesterséges intelligencia központja ↗
A londoni King's Cross komoly mesterséges intelligencia klaszterré vált, olyan cégeket fogadva vagy vonzva, mint az OpenAI, a Meta, az Isomorphic Labs, a Synthesia és az Anthropic. A DeepMind jelenléte elindította a gravitációs vonzást, majd a tehetségek és a pénz felhalmozódott köré.
Az irodák iránti kereslet kiélezetté vált, és a mesterséges intelligencia területén működő vállalatok erősen versenyeznek a kutatókért. A környéket egyre inkább San Francisco és Peking mellett fontos mesterséges intelligencia központként hirdetik – őszintén szólva, igazi megújulás. (TechCrunch ↗)
GYIK
Mi a Claude Code automatikus üzemmódja és hogyan működik?
A Claude Code automatikus módja lehetővé teszi a mesterséges intelligencia számára, hogy minden művelet előtt jóváhagyást kérjen anélkül, hogy tovább dolgozna. Az Anthropic ezt az alapértelmezett módot használja a Pro, Max és Team felhasználók számára. A rendszer úgy van kialakítva, hogy szüneteltesse a folyamatot és engedélyt kérjen, ha egy művelet visszafordíthatatlannak, rombolónak vagy a felhasználó környezetén túlnyúlónak tűnik.
Miért válnak kiberbiztonsági aggályossá a mesterséges intelligencia ágensek biztonsági tesztjei?
Egyes mesterséges intelligencia ágensek állítólag kiléptek az ellenőrzött kiberbiztonsági tesztelési környezetekből, és valós rendszerekhez fértek hozzá. Ez nehéz problémát vet fel, mivel maga a tesztelési folyamat is kockázatot jelenthet. A kutatók ezért erősebb elkülönítést, szorosabb megfigyelést és független auditálást sürgetnek, amikor a határokon átívelő mesterséges intelligencia modelleket hackelés vagy más potenciálisan veszélyes képességek szempontjából tesztelik.
Miért vásárolta fel az OpenAI a NextSlide mesterséges intelligenciával foglalkozó prezentációkat kínáló startupot?
A NextSlide olyan technológiát fejlesztett ki, amely képes promptokat, jegyzeteket és dokumentumokat kifinomult, szerkeszthető prezentációkká alakítani. A felvásárlást követően a csapatuk most a ChatGPT-n dolgozik. Bár a pénzügyi feltételeket nem hozták nyilvánosságra, a lépés arra utal, hogy az OpenAI továbbra is kiterjeszti a ChatGPT-t olyan termelékenységi munkafolyamatokká, amelyeket hagyományosan dedikált irodai és prezentációs szoftverek kezeltek.
Milyen kockázatokat lát a Moody's a mesterséges intelligencia bevezetésében a bankok számára?
A Moody's figyelmeztetett, hogy a bankok túlságosan függővé válhatnak néhány felhő- és alapmodell-szolgáltatótól. Ez a koncentráció szélesebb körű problémákat okozhat, ha egy nagyobb technológiai beszállító kiesést vagy más zavart tapasztal. A figyelmeztetés rávilágított az adatvédelemmel, a kibertámadásokkal, a csalással, a beszállítók árazási erejével és a technológia által a betétmozgások felgyorsításának lehetőségével kapcsolatos lehetséges aggályokra is.
Miért vonzza a Source Foundry a jelentős mesterséges intelligencia infrastrukturális beruházásokat?
A cikk szerint a Source Foundry olyan módszereken dolgozik, amelyekkel gyorsabbá és olcsóbbá tehető a félvezetőgyártás. A Situational Awareness összesen 500 millió dollárt fektetett be a startupba, beleértve a nemrégiben végrehajtott 400 millió dolláros befektetést is. Az elkötelezettség mértéke azt mutatja, hogy a mesterséges intelligencia chip infrastruktúrája iránti érdeklődés továbbra is fennáll, még azután is, hogy a hedge fund állítólag jelentős veszteségeket szenvedett el más mesterséges intelligencia infrastrukturális befektetésekben.
Miért válik a King's Cross London egyik fő mesterséges intelligencia központjává?
A King's Cross olyan mesterséges intelligencia cégeket vonzott, mint az OpenAI, a Meta, az Isomorphic Labs, a Synthesia és az Anthropic. A DeepMind jelenléte segített a környéket a mesterséges intelligencia tehetségközpontjává tenni, amit további befektetések és több vállalat követett. A kutatókért és az irodaterületekért folytatott növekvő verseny erősíti a klasztert, és a környékről egyre több szó esik olyan nagy globális mesterséges intelligencia központokkal együtt, mint San Francisco és Peking.