NVIDIA RTX AI Garage: Ново поколение изкуствен интелект за всеки дом
През последната година генеративният AI преобрази начина, по който живеем, работим и се забавляваме, като подобри всичко – от писане и създаване на съдържание до игри, учене и продуктивност. В основата на тези промени стоят PC ентусиасти и разработчици, които непрекъснато разширяват границите на възможното. За много от най-големите технологични пробиви мястото на раждане е едно – гаражът. NVIDIA вдъхва нов живот на тази традиция с RTX AI Garage – инициатива, която ще предоставя редовно съдържание за разработчици и ентусиасти, желаещи да създават AI агенти, приложения за продуктивност, дигитални хора и още много други.
Първата серия от RTX AI Garage акцентира върху новостите, представени на CES, включително нови AI модели, които издигат дигиталните хора, създаването на съдържание и разработката на ново ниво. Тези модели са представени под формата на NIM микросървиси, които използват мощта на новите GeForce RTX 50 Series GPU. Тези графични процесори, базирани на архитектурата NVIDIA Blackwell, предлагат до 3,352 трилиона AI операции в секунда, 32GB VRAM и FP4 изчисления, които удвояват производителността на AI и позволяват на генеративния AI да работи локално с по-малък обем памет.
Една от големите предизвикателства в AI е бързият темп на развитие, при който нови модели се появяват ежедневно на платформи като Hugging Face. Това прави адаптацията им за PC сложна и времеемка. NIM микросървисите решават този проблем, като предлагат предварително конфигурирани AI модели, оптимизирани за PC, които се интегрират лесно с приложенията. Те включват поддръжка за големи езикови модели, генерация на изображения, разпознаване на реч, извличане на данни от PDF файлове и компютърно зрение.
Един от новите модели, Llama Nemotron Nano, е специално разработен за AI задачи като следване на инструкции, писане на код, решаване на математически задачи и други. В близко бъдеще тези микросървиси ще могат да бъдат изтегляни и използвани директно на Windows 11 чрез Windows Subsystem for Linux.
NVIDIA също така представи AI Blueprints – готови работни потоци, които обединяват различни компоненти, като библиотеки, софтуерни комплекти за разработка и AI модели, в цялостни решения. Те включват всичко необходимо за създаването на сложни приложения, като подкасти от PDF файлове или 3D-ръководени AI генератори на изображения. Blueprints помагат на разработчиците да преминат от експеримент към реални приложения по-бързо от всякога.
Новите GeForce RTX 50 Series GPU са проектирани с мисъл за сложните изисквания на генеративния AI. Те включват Tensor ядра от пето поколение, по-бърза памет и поддръжка на FP4 оптимизация, която намалява размера на моделите, без да компрометира качеството. Например, FLUX.1 (dev) модел, който изисква над 23GB VRAM, сега може да работи с по-малко от 10GB благодарение на FP4, което го прави достъпен за повече потребители.
NVIDIA също демонстрира Project R2X – визионерски AI аватар, който може да помага с информация, управление на приложения, видеоконферентни разговори и дори четене и обобщение на документи. Благодарение на NIM микросървисите този асистент може да бъде лесно персонализиран според нуждите на всеки потребител.
NIM микросървисите и AI Blueprints ще бъдат налични от следващия месец с поддръжка за RTX 50 Series и други водещи графични карти. Освен това, готови RTX AI PC конфигурации ще бъдат достъпни от популярни производители като ASUS, Dell, HP, MSI и други. С тези иновации NVIDIA приближава AI технологията директно до потребителите, като им дава мощта да създават и работят с инструменти, които до скоро изглеждаха като научна фантастика.