Bemutatkozott a Chat with RTX, az Nvidia RTX 30/40 GPU-kon futó MI chatbotja

Szerző: xoki | 2024. February 14. | hír | 22 hozzászólás

Az Nvidia leleplezte a Chat with RTX nevű új funkciót, amely alternatívát kínál azok számára, akik kényelmetlennek találják az online chatbotokat. A mesterséges intelligencián alapuló chatbot - kihasználva a TensorRT-LLM & Retrieval Augmented Generated (RAG) szoftvert - lokálisan működik GeForce RTX 30/40 GPU-kon.

Az MI egyre népszerűbbé válik, és valószínűleg ti is találkoztatok már MI által generált képpel, videóval vagy szöveggel. A chatbotok eddig a nagy adatközpontokban ragadtak, mivel a rengeteg összetett változót tartalmazó MI-modellek komoly erőforrást igényeltek. Szerencsére ez már a múlté, ugyanis a felhasználóknak most már lehetőségük van a modellek leegyszerűsített változatának letöltésére. Persze, ahogy minden új technológiának, az egyszerű felhasználó számára kissé trükkös lehet a beállítás, de az Nvidia láthatóan minden tőle telhetőt megtett, hogy leegyszerűsítse a folyamatot azzal, hogy egyetlen, lokálisan futó alkalmazást készített, amely a böngészőn keresztül indítható el.

A Chat with RTX többféle fájlformátumhoz is hozzáfér, többek között pdf-hez, doc/docx-hez és xml-hez. A válaszok generálásához pedig kihasználja az olyan népszerű nyelvi modelleket, mint a Mistral és a Llama2, ráadásul olyan online forrásokat is használni tud, mint a YouTube-on fellelhető videók.

Az Nvidia egyelőre csak az RTX 3000 és RTX 4000 széria támogatását erősítette meg, de mivel 8 GB memóriát tüntettek fel minimumnak, így az RTX 3050 6 GB nem tartozik a kompatibilis termékek közé. Az Nvidia továbbá 16 GB RAM-ot, Windows 11-et és 535.11-es vagy annál újabb illesztőprogramot írt elő a program rendszerkövetelményeiben.

Az Nvidia Chat with RTX a hivatalos oldalról, teljesen ingyen letölthető.

Hozzászólások: 22
Hozzászólás küldéséhez be kell jelentkezni.
cabus26 avatar
😂😂😂🤣🤣🤣😂😂😂🤣🤣🤣😂😂😂🤣🤣🤣😂😂🤣🤣🤣😂
0
0
0
0
💬 2
xCube avatar
@cabus26: Ezt valahová lementetted és mindig csak bemásolod a legtöbb hírhez?
0
1
0
0
cabus26 avatar
@xCube: Nem!
A végzet eljött 🤣🤣😂
Lehet én vagyok már túl öreg,de felesleges dolognak tartom.
Meg ahová az egész ipar tart,az is kiábrándító.
0
0
0
0
xCube avatar
Megrettentő, hogy a kommentelők döntő többségének lövése nincs róla, hogy ez miről szól, de mégis nagyon határozott véleményük van róla.
0
0
2
0
💬 3
susguy avatar
@xCube: Mint valami vígjáték ahol benszülöttek közé ledobnak egy mezei számítógépet. Vagy beszélgetni akarnak vele, vagy megdugni, más nem jut eszükbe.
1
0
0
0
downuser avatar
@xCube: Egy újabb piaci rés betömésén, a tárhelyfoglaláson, az e-pénisz méregetésen, és a digitális függés mérföldkövén túl, ez miről szól?
Mit kapunk 35Gb letöltött ChatGPT-ért?
Amúgy meg a mesterséges intelligencia nem megoldás a természetes butaságra.
Egy 12ezer dolláros bróker-botnak több értelme van mint ennek, az legalább egy óra alatt csinál nekem 500 dollárból 10ezer dollárt (hozzáteszem ez sem túl etikus), de, mi az a funkció, ami annyira nagyon különlegessé teszi a Chat with RTX-et?
Ha pl. képeket és videókat generáltatok vele utasításra, azt gyakorlatilag már nem én csinálom, hanem ez a gép. Az alkotás folyamatát megfosztja a felhasználótól. Mire jó ez?
Nem jó irányba haladunk ezzel szerintem.
És még mindig nagyon ismeretlen terep az egész M.I. témakör. Olykor maguk a fejlesztők is azt mondják, fogalmuk sincs hová vezet. És mégis ráeresztik az átlag lakosságra.
Engem kiráz a hideg az ilyen "beszélgessünk gépekkel" tevékenységtől. Potenciális profilozó-monitorozó programnak tartom mindet. Senki sem vállal garanciát arra, hogy nem fogja elkezdeni lopni az adataimat, netán a 'gondolataimat'.

Tedd a szívedre a kezed, és tedd fel a kérdést;
" Miért fontos rátenni a ChatGPT-ét a videokártyára? "
___

Utoljára kiemelem; nem vagyok akadálya a haladásnak, a technológiai fejlődésnek, ellenben - szerintem jelenleg- nagyon nagyon rossz irányba haladunk...
0
0
0
0
susguy avatar
@downuser: Ha minden technológiai fejlődésnél megállnánk csak azért mert lehetnek negatív következményei, akkor megálltunk volna valahol félútón a kőeszközöknél. Vannak pozitív használatai is, de azokba vagy nem tudsz belegondolni, vagy szándékosan kerülöd mert nem illik a narratívádba.

Amúgy meg a mesterséges intelligencia nem megoldás a természetes butaságra.
Nem is ez a célja. Eszköz, nem megoldás. Egy autó sem visz magától A-ból B-be, ahhoz vezetni is tudni kell.
1
0
0
0
Zollee avatar
Na majd ha képeket is tud generálni bármilyen filterezés nélkül majd rá nézek, addig ott a Stabil Diffusion 😇
0
0
0
0
KENI07 avatar
35gb os program😲😲😲😲😲😲😲😲😲😲😲😲😲☠️
0
0
0
0
carl18x avatar
(én) Meg kérdezheted a videókártyád hogy érzi magát ? fáj- valami?
(Kártya) Kicsit meleg a Hot spotom, nem tudnál tenni nekem valamit ennek érdekében?

(én) De persze mindjárt javítok MSI afterburner alatt ventilátor görbét! :)

(Kártya)(Köszönöm hogy van nekem gazdám, nagyon mázlista vagyok ilyen ember vásárolt meg.
😂🤣🤣🤣
Igaz történeten alapun, most csak fikció pár év múlva valóság! :)
Mint a Terminátor 2-be a gép sose hazudik nem csap be és hűséges.
Sarah mondta pótapák jöttek mentek de csak ez a gép maradt neki.
Sose veri meg, nem mondja nincs rá ideje. A T800-as olyan volt John-nak mint az apja.
😇

Meg úgy ősszintén nem elég magányos a világ így is, azt kell hogy majd a hardverekkel beszélgetünk magányunkba.
Ha véletlen oda jut a világ hogy Cameron Phillips szintüt robotot tudna gyártani, veszem.😍
https://i.pinimg.com/originals/93/fb/55/93fb55e0d0c05a0c18c0cfcc11b4fe13.gif
0
0
0
0
bitpork avatar
Letőtöm oszt , mint Moldovánál a disznótartó gazda: Józsi-Józsi , a kurva anyád!
2
0
0
0
💬 2
retek77 avatar
Ismét egy értelmetlen baromság............Mások azon vacilálnak hogy mit egyenek a hónap végén ezek meg milliókért vagy milliárdokért készítenek felesleges dolgokat..........

Amúgy is minek vaygunk ilyen sokan a földön hogy ha valaki ennyire elvont, antiszociális meg tudja fene még mi, hogy nem tud élő emberrel beszélni......... Ez inkább szánalmas sem mint nevetséges.
Tartson kutyát
3
0
0
0
downuser avatar
🤣😂🤣
Minden vágyam volt beszélgetni a videokártyámmal. 🤣😆

Mindazonáltal ez valahol kicsit szomorú is...valakinek annyira ne legyen élete,
hogy egy túlárazott hardverrel kelljen beérje a társas élet porondján.

Szép új világ...na nem baj. Felkészül a 18+ szolgáltatásokat nyújtó tápegység. Amelyik utasításra megb4sz 😂😂.....
2
11
2
0
💬 7
carl18x avatar
@downuser: Én talán jó pár éve már gondoltam arra a mai világból alapból is nagyon magányos/antiszociális. Néha megyek ide oda, de gyakorlatilag utcán üresek senki se megy sehova. Otthon van internet netflix és minden kényelem elérhető.
Már házhoz is szállítanak így ki mozdulni se kell ha valaki vásárolni akar.

(Igaz én idősebb generáció vagyok) De az én időmbe gyerekként mindig az utcán logtunk. Aztán gyakorlatilag olyan élményeket szereztem 2010 elött, amit soha nem felejtek el. Sok-sok kerékpártúra, aztán 12 évesen Tisza-tó Túra (Felnőtt nélkül) :D
1998 fele voltam 5 éves kb 300Méterre laktam óvodátol és gyalog jöttem haza.
2001-be 8 évesen már szöktünk a város végébe, aztán jöttek is írtünk veszüvel XD.
Én már első osztályba is mindig gyalog mentem egyedül suliba meg onnan haza.
2000-2008-ig.
Manapság unokahugom 8-os és gyakorlatilag a nagyobb gyereket is viszik suliba a gyereket kocsival.

Én kérdésem az, az én generációm volt strapabíró űtőképesebb vagy a mai lett túl nyám nyila?
De néha azon is jót nevetek mikor az öreg néni mondja unokája milyen zseni hiszen a Play áruházból le tudja tölteni a játékot és játszani. Ez semmi olyan ami kihívást jelentene.
Az a 16 éves anglia volt Zseni aki a Rockstart feltörte.😅

Bocsánat kicsit (Doomer bejegyzés lett) Csak valahogy most én nagyon nem érzem olyan sok társas interakció ér egy átlag embert.
1
1
0
0
szilver avatar
@carl18x: Ez a 2010 nem tudom honnan jött elő hirtelen,de elgondolkoztam és bakker tényleg valahogy akkor kezdet minden ,,***ódni,, 2010től valahogy nincsenek nagyon maradandó,nyomothagyó emlékeim...ez gáz.91-ben születtem bőven kijutott abból amiket írsz.Óvodába gyalog mentem egyedül a réten keresztül,ha nem a libák akkor a kóborkutyák miatt futottam,de érdekes módon túléltem,a kocsi sem ütött el,a róka sem vitt el..stb.A sok bunker építés az erdőben,volt hogy csak enni mentem haza délben vagy még akkor sem.Emlékszem anyámat teljesen kikészítettem a csavargásaimmal,kaptam is párszor,de hát így volt a jó és felnőttünk és a gyerekkori kapcsolatok nagy része megszakadt,mindenki járja a maga útját nem keresi egyik sem a másikat persze tisztelet a kivételnek.Család,gyerek,külföldre költözés...stb kinek hogy alakult.Cseppet el is szomorodtam most :(
1
0
0
0
carl18x avatar
@szilver: Nekem elég jó a memóriám így elég sok dologra emlékszek. Már más velem egy idős személyel pont ö is azt mondta 2010 után érezte hogy megváltozott a világ.
Jött a internet, aztán lett közösségi média (facebooK) azóta már telt el pár éve van instagram és tiktok ki se kell mozdulni és minden elérhető az otthonodba.
(Film,sorozat,videójáték) csak hogy ez a sok információ könnyen túl stimulálja mindenki agyát. Egyszerűen mindenhol van internet, és mai gyerekek is így nőnek fel fél életük online élik.

Megmondom ősszintén mások is azt mondták ha tehetnék vissza mennének.
Sajnos nekünk is volt "ígért" osztály találkozó aztán én felkerestem pár embert.
Egy lányal beszéltem azt mondta ö nem akarja feltépni a régi emlékeket.
Végül 31 vagyok és soha nem volt egy osztálytalálkozó se általános se középsulis osztálytársakkal.
Most itt vagyok 31 én igazán szociális ember vagyok, bárkivel könnyen szót értek.
De lassan én itt ott tartok nincsenek barátaim, akik voltak elköltöztök.
Munka mellet mindenkinek máskor van szabad ideje és megváltozik a fontossági sorrend......
Aztán nehéz új kapcsolatokat is ki alakítani max pár munkatársal össze spanolsz.
Évek során én is fejlődtem, mikor 8. osztályos voltam akkoriban nem éreztem a különbséget évfolyam társak között. Aztán eltelt 5-10 év és igen ki bukott kinek mi a társadalmi rangja és milyen karrier áll elötte.
0
0
0
0
susguy avatar
@carl18x:
Én kérdésem az, az én generációm volt strapabíró űtőképesebb vagy a mai lett túl nyám nyila?
Egyik sem, csak pár évtizeddel korábban születtél, azóta meg fejlődött az emberiség. Egy ősemberhez képest, aki szabad kezeivel ütlegelte a környező vadvilágot a túlélésért, valószínűleg a te generációd is nyámnyilának számított.
0
0
0
0
carl18x avatar
@susguy: Unokaöcsémnek meséltem a régi időkről mikor volt csapat stb. Ö is ezt akarta pár éve csak hát egyik osztálytársa se ért rá. Aztán én elmentem vele kerékpározni, ki mentünk a Király halomhoz. Csak az én időmbe olyan nem volt 13 évesen senki se érjen rá.
Unokahugom is 14 is neki sincsenek barátjai, szomszédba se gyerekek nyáron mindig velünk log. Én 12 évesen korbe tekertem a Tisza-tavat egy családba egy mai ennyi idős fiatal megpróbálta és a feléig jutott.

Nem voltunk mi nyám nyilák, megkergetett egy kecske és futottunk ahogy tudtunk 🤣
Incselkedtünk vele láncon volt, a lánc szét jött és jött utánunk.😂😂
0
0
0
0
susguy avatar
@carl18x: Minden generáció azzal foglalja el magát amit az előző generációk elérhetővé tettek számára. Ha akkor lett volna Fortnite, TikTok, ChatGPT stb, akkor a te generációd kezdett el volna függeni ezeken. Te a kecske elől rohangáltál kiskorodban, azelőtt a háborúban segítettek ki és dohányoztak, azelőtt meg belehaltak mindenféle betegségbe. Az előtted lévök pont annyira tartanának nyámnyilának téged mint amennyire te gondolod az újakat.

Azzal teljesen egyetértek hogy bizonyos fejlődéseknek/változásoknak igenis vannak negatív következményei, de ez nem azért van mert a következő generáció hülyébb vagy nyámnyilább lenne, hanem mert más időben születtek más lehetőségekkel. Szabad téren rohangálni egyértelműen többet segít fizikai fejlődésben mint pár Fortnite meccs, de nem azért csinálta a generációd mert jobb lett volna, hanem mert otthon agyvérzést kaptak attól hogy nincs mit csinálni.
0
0
0
0
carl18x avatar
@susguy: Akkor hogy pontosan körbe írjam nekem is volt nintendo/Playstation szó sincs arról ne videójátékoztunk volt gyerekként csak hogy voltak azért határok. (Mondjuk játszottam 2-3 órát és isten király voltam) aztán mondták kapcsoljam ki aztán ment a normál élet vagy a tanulás.

Ez nem ment a szóciális életem rovására, attól még voltak közös programok és nem volt unalmas a élet. Van 2 unokahugom/2 unokaöcsém akik úgy ősszintén nem antiszociális emberek még is magányosak. Persze más időbe születtek és nem ők tehetnek róla.
Persze nem azt mondom jó dolog a gaming egy adott keretig, csak mondjuk 8 óra fortnite után nem biztos annyira jó a gerincnek stb.

Most maguk a szűlők is internet függők, akkor a gyerek milyen példát lát?
0
0
0
0


Elfelejtett jelszóRegisztráció