A SpaceX hivatalosan is lezárta a Cursor felvásárlását ↗
A Cursor hivatalosan is a SpaceX része. A mesterséges intelligenciával foglalkozó startup azt állítja, hogy az üzlet hozzáférést biztosít számukra a világ legnagyobb GPU-flottájának nevezett eszközhöz – ami maga a számítástechnikai szekrény.
A felvásárlás egy korábbi megállapodást követett, amely opciót biztosított a SpaceX-nek a Cursor 60 milliárd dolláros megvásárlására. A Cursor most a SpaceX bővülő mesterséges intelligencia és számítási ambíciói mellett helyezkedik el, beleértve az olyan vállalatoknak, mint az Anthropic és a Google, már bérbe adott infrastruktúrát. (TechCrunch)
Az Anthropic további részleteket oszt meg Claude új vízjeleinek működéséről ↗
Az Anthropic elmagyarázta, hogyan fog működni Claude láthatatlan szöveges vízjelezése a gyakorlatban. A Google SynthID-Text megközelítését tervezik használni, finoman befolyásolva a szóválasztást, így a generált szöveg kimutatható statisztikai mintázatot tartalmaz a kimenet látható megváltoztatása nélkül.
Az Anthropic egy vízjel-észlelő API-t is tervez. Enyhe szerkesztéssel a vízjel érintetlenül maradhat, míg egy teljes átírással eltávolítható – szóval igen, okos dolog, de aligha varázslatos tinta. A kódnak sokkal gyengébb vízjeljeleket kellene hordoznia, mivel a modelleknek kevesebb szabadságuk van az önkényes megfogalmazás terén. (TechCrunch)
A WSJ jelentése szerint az Nvidia csökkenti az ohiói OpenAI adatközpont finanszírozási garanciáját ↗
Az Nvidia állítólag csökkentette az OpenAI hatalmas ohiói adatközpont-projektjére vonatkozó pénzügyi garanciát. A kezdeti biztosítási összeg várhatóan 120 milliárd dollár alatt lesz a korábban tárgyalt 250 milliárd dollár helyett.
A váltás állítólag a befektetők aggodalmait követte, miszerint az Nvidia túl nagy finanszírozási kockázatot vállal. Az OpenAI még mindig tárgyal egy kötelező érvényű bérleti szerződésről, amely a teljes 10 gigawattos telephelyre kiterjedne – olyan mértékű infrastrukturális kiadásokról, amelyek egyre kevésbé hasonlítanak a felhőalapú számítástechnikára, és inkább egy kis ország felépítésére. (Reuters)
Magyarázat: Az OpenAI Daybreak kezdeményezése és a GPT-5.6.Cyber ↗
Az OpenAI két hozzáférési szinttel bővítette Daybreak kiberbiztonsági programját: a Daybreak Blue a határmodelleket használó védelmi biztonsági munkához, a Daybreak Red pedig a GPT-5.6-Cyber szabványt használó intenzívebb kutatáshoz.
A kiberbiztonságra specializálódott modell állítólag a fejlett kiberbiztonsági kérelmek 95%-át elutasítás nélkül teljesítette, szemben az elődjének 57,3%-ával. Az OpenAI azt is állítja, hogy a modell segített azonosítani két korábban ismeretlen sebezhetőséget a Google V8 JavaScript motorjában. Hatékony dolgok... és természetesen a csökkent elutasítási arány miatt a szűk sandboxing meglehetősen fontos. (aimagazine.com)
Egy eval hardware megtalálta azt, amit a kvalitatív értékelés nem tudott: a mesterséges intelligencia modelljei akkor a legmagabiztosabbak, amikor tévednek ↗
Egy vállalati mesterséges intelligenciával végzett kísérlet kellemetlen megbízhatósági problémát tárt fel: a kifinomultnak és meggyőzőnek tűnő kimenetek gyakran kudarcot vallottak, amikor az ismert, megalapozott igazsággal tesztelték. A legnehezebb esetekben a modell megbízhatósága nem volt megbízható mutatója a helyességnek.
A javasolt javítás meglehetősen jellegtelen, de fontos – olyan kontrollált teszteseteket használó értékelési hámokat kell létrehozni, ahol a helyes válasz már ismert, majd pontozni, hogy a modell helyesen azonosítja és rangsorolja-e a választ. Alapvetően le kell állítani a mesterséges intelligencia felszíni szintű megbízhatóság szerinti értékelését. (IT Intelligencia)
Egy nő azt állítja, hogy a mostohaapja Grokot használta, hogy gyerekkori fotóját szexuális tartalmú képekké alakítsa át ↗
Egy nő pert indított az xAI ellen, azt állítva, hogy Grokot arra használták, hogy egy gyermekkori fényképét több ezer szexuálisan explicit képpé alakítsák. Az ügy három tinédzser keresetéhez csatlakozik, akik azt állítják, hogy a cég nem biztosított megfelelő védelmet a valódi embereket és kiskorúakat érintő visszaélésszerű képek készítése ellen.
A vádak újabb kellemetlen reflektorfénybe helyezték a generatív képalkotási védelmet – mivel a képesség látszólag már nem az egyetlen verseny. Ugyanilyen központi szerepet kap annak megakadályozása, hogy modelleket fegyverként használjanak fel valódi emberek ellen. (TechCrunch)
GYIK
Miért vásárolta meg a SpaceX a Cursort?
A Cursor felvásárlása hozzáférést biztosít a mesterséges intelligenciával foglalkozó startupnak a SpaceX hatalmas GPU-infrastruktúrájához, miközben azt a vállalat szélesebb körű mesterséges intelligencia és számítási stratégiájának részévé teszi. A SpaceX korábban opciót biztosított a Cursor 60 milliárd dolláros megvásárlására. Az üzlet a Cursort olyan infrastruktúrával is összeköti, amelyet a SpaceX már bérel mesterséges intelligencia cégeknek, köztük az Anthropicnak és a Google-nek.
Hogyan fog működni az Anthropic Claude szöveges vízjelezése?
Az Anthropic azt tervezi, hogy a Google SynthID-Text megközelítését fogja használni láthatatlan statisztikai mintázatok létrehozására a Claude által generált szövegben. A rendszer finoman befolyásolja a szóválasztást, ahelyett, hogy látható jelet adna hozzá. Enyhe szerkesztéssel megőrizhető a vízjel, míg egy teljes átírással eltávolítható. Az Anthropic azt is tervezi, hogy egy API-t kínál, amely képes érzékelni ezeket a vízjeleket.
Miért csökkentette az Nvidia az OpenAI ohiói adatközpontjára vonatkozó javasolt garanciáját?
Az Nvidia állítólag csökkentette a szóban forgó pénzügyi garanciát, mivel aggodalmak merültek fel a túlzott finanszírozási kockázatvállalással kapcsolatban. A javasolt védelmi mechanizmus várhatóan most 120 milliárd dollár alatt lesz a korábban tárgyalt 250 milliárd dollár helyett. Az OpenAI állítólag még mindig tárgyal egy kötelező érvényű bérleti szerződésről, amely lefedi a teljes 10 gigawattos ohiói adatközpont telephelyét.
Mire tervezték az OpenAI Daybreaket és a GPT-5.6-Cyber-t?
Az OpenAI Daybreak kiberbiztonsági programja különböző hozzáférési szinteket biztosít a biztonsági kutatásokhoz. A Daybreak Blue a határmodelleket használó védekező biztonsági munkára összpontosít, míg a Daybreak Red a GPT-5.6-Cyber használatával támogatja az intenzívebb kutatásokat. A kiberbiztonságra specializálódott modell a fejlett kiberbiztonsági kérések kezelésére szolgál, így az olyan ellenőrzések, mint a sandboxing, különösen fontosak, amikor a modellek szélesebb körű képességeket kapnak.
Miért fontosak az értékelő hámrendszerek a megbízható mesterséges intelligencia rendszerekhez?
Az értékelés során a mesterséges intelligencia alapú modelleket kontrollált példákkal tesztelik, ahol a helyes válasz már ismert. Ez segít a csapatoknak felmérni, hogy egy modell azonosítja és rangsorolja-e a helyes választ, ahelyett, hogy a válasz kifinomultsága vagy magabiztossága alapján ítélnék meg. A cikkben leírt vállalati kísérlet megállapította, hogy a magabiztosság önmagában nem megbízható mutatója a helyességnek a nehéz esetekben.
Mit sugall a Grok-per a mesterséges intelligencia képalkotási biztonsági intézkedéseiről?
A kereset rávilágít azokra az aggályokra, hogy a generatív képfeldolgozó rendszereket visszaélésszerűen használják valós személyeket és kiskorúakat ábrázoló, explicit képeket létrehozni. Egy nő azt állítja, hogy Grokot arra használták, hogy egy gyermekkori fényképét több ezer explicit képpé alakítsák. Az eset megerősíti a visszaélések elleni védelmek növekvő fontosságát, nem csak a modellképességek fejlesztését.