Ако следите отблизо света на изкуствен интелектВероятно вече сте чували името. DeepSeekТози модел на изкуствен интелект от Китай привлече вниманието на цялата индустрия, като предложи... производителност, много подобна на тази на гиганти като OpenAI Или Google, но с много по-ниски разходи за изчисления и внедряване. Всичко това накара не малко хора в Силициевата долина да повдигнат вежда и да започнат да обръщат внимание.
Това, което прави DeepSeek особено интересен, е, че е модел на отворен код под лиценз на MITТова означава, че всеки може да го изтегли, да го одитира, да го модифицира, да го използва с търговска цел и, най-интересното за вас, стартирайте го локално на вашия компютърМожете да го използвате, без да изпращате данните си към външни сървъри, предотвратявайки съхраняването на разговорите ви в центрове за данни в Китай или която и да е друга държава и печелейки... поверителност и контрол.
Какво е DeepSeek и защо генерира толкова много шум около него?
DeepSeek навлезе в глобалния разговор, защото предлага много високи резултати в задачите за чат и разсъждение на много по-ниска цена от големите собствени модели. Отвореният му подход го поставя в същата категория като предложенията на Meta, Google или Microsoft, които също са пуснали своите модели. както е показано в сравнение между Copilot и DeepSeekно с агресивност по отношение на разходите и ефективността, която предизвика вълнение в целия сектор.
Този проект ясно подкрепя екосистемата с отворен код: бидейки под MIT лицензМожете да го интегрирате в търговски проекти, да го модифицирате, да го комбинирате с други инструменти и като цяло, изградете своя собствена инфраструктура с изкуствен интелект без да се налага да плащате всеки път, когато искате да провеждате тестове или да внедрявате нещо сериозно. Този факт дори е накарал някои лидери в индустрията да преразгледат позицията си относно отворения кодкоето показва въздействието, което оказва.
Освен това, един от най-привлекателните моменти е, че DeepSeek е проектиран да може да изпълнява локално на потребителски компютри Благодарение на опростените, намалени версии на основния му модел, не ви е необходим цял център за данни, за да се възползвате от основните му възможности; с приличен компютър можете да започнете да експериментирате и да го използвате като ежедневен асистент.
Друг важен детайл е, че DeepSeek е обърнал голямо внимание на стъпка по стъпка разсъждение. В R1 модел, което ще обсъдим по-късно, е в състояние да покаже своя мисловен процес между етикетите Когато го стартирате с определени инструменти, това ви позволява да видите как разбива проблемите, преди да ви даде окончателния отговор.
Пълни модели срещу опростени модели: защо не бива да инсталирате „големия играч“
DeepSeek не е единичен модел, а цяло семейство. Начело в каталога е... DeepSeek-R1:671b, истински звяр с някои 671.000 милиарда параметриВ компресиран вид, този модел е около 120 GB (от оригиналните 720 GB), което дава представа за мащаба на ресурсите, необходими за правилното му функциониране.
За да ви дам представа, един създател като Матю Берман Той дори успя да тества R1:671b в облака, използвайки сървър с AMD EPYC процесор. 128 ядра, повече от 2 TB RAM памет, няколко NVMe SSD диска и 8 графични процесора AMD Instinct MI300X с по 192 GB всеки. По принцип това, което разговорно би било известно като „Компютър на НАСА“, далеч от настолния или преносимия компютър, който имаме у дома.
От другата страна са версиите дестилирана или редуцирана от DeepSeek. Тези варианти използват техника, при която по-малък модел се научава да имитира поведението на по-голям, възползвайки се от неговите фина настройка и нейните оптимизирани настройкиМного от възможностите на оригиналния модел са запазени, но с далеч по-малко параметри и по-ниска консумация на ресурси. дестилирани модели от DeepSeek Те обикновено са под 8.000 милиарда параметри и размерът им варира между 4 и 5 GB. Това ви позволява да изтеглете, съхранете и стартирайте ги на обикновен компютър без оборудването ви да се запали. Жертвате известна прецизност и мощност, но в замяна можете да ги използвате всеки ден.
С тези по-леки версии, компютър с 32 GB RAM и специален графичен процесор с 8 GB видео памет (Например, AMD Radeon RX 580) е способна да изпълнява DeepSeek напълно използваемо. Отговорите се генерират малко по-бавно, отколкото в мрежата или на мощни сървъри, но изживяването е напълно функционално, макар и с Графичният процесор е натоварен почти на 100% докато моделът се генерира.
Предимства на локалното използване на DeepSeek в Windows 11
Голямото предимство на внедряването на DeepSeek във вашия Windows 11 е, че преминавате от зависимост към облачна услуга към необходимост... вашият собствен изкуствен интелект, работещ на вашата машинаТова носи със себе си редица предимства, които за много потребители повече от компенсират усилията на първоначалната инсталация.
Първото е очевидно: можете да използвате DeepSeek Няма интернет връзка След като шаблонът бъде изтеглен. Идеален, ако работите на лаптоп, който превключва между различни мрежи.
Второто основно предимство е поверителност и контрол на даннитеТъй като всичко работи на вашия компютър, входните и изходните данни на модела никога не напускат вашия компютър. Ако работите с чувствителна информация, вътрешни фирмени документи или лични данни, не е нужно да се притеснявате на кои сървъри се озовават вашите разговори.
Освен това, тъй като не зависите от споделена инфраструктура, не сте засегнати от без опашки от чакане, прекъсвания на услугите или ограничения поради пренасищане на потребителитеАко компютърът ви разполага с достатъчно ресурси, DeepSeek ще реагира единствено въз основа на това, което вашият хардуер може да обработи, независимо от това колко други хора използват модела другаде.
И накрая, фактът, че DeepSeek е от отворен код и локално изпълним Това го прави идеален кандидат, ако искате да експериментирате, да го интегрирате с други приложения, да автоматизирате работни процеси или да настроите среда за тестване на изкуствен интелект изцяло под ваш контрол. За разработчици и напреднали потребители това е истинско удоволствие.
Препоръчителни хардуерни изисквания, за да извлечете максимума от него
Въпреки че DeepSeek в своите дестилирани версии е проектиран да бъде по-щадящ ресурсите, важно е да сте наясно с няколко неща. минимални хардуерни спецификации така че преживяването не е разочароващо. Технически можете да го стартирате и на по-малко мощни машини, но колкото по-близо се доближите до тези спецификации, толкова по-добре.
В областта на паметта е силно препоръчително да имате поне 16 GB оперативна памет32 GB е идеалната памет, ако искате да работите с известна свобода на действие и да отваряте други програми едновременно. С по-малко памет рискувате постоянно забавяне или Windows да започне да прехвърля страници към диск, което води до драстичен спад в производителността.
Що се отнася до графичната карта, ключът се крие в Налична видео паметЗа опростена версия на DeepSeek R1, като например 7B или 8B, графичен процесор с 6-8 GB VRAM би трябвало да е достатъчен, въпреки че колкото повече място за памет имате, толкова по-добре. Ако вашият компютър няма специална графична карта, някои модели могат да разчитат единствено на процесора, но производителността ще бъде значително по-лоша.
За съхранение трябва да имате поне 5 GB безплатно на модел който искате да инсталирате, плюс допълнително място за други модели и за самия Windows 11. Силно препоръчително е да използвате SSD вместо механичен твърд диск, тъй като времето за зареждане и достъпът до големи файлове са значително по-бързи.
Ако имате модерен компютър с Интегриран NPU (специализиран процесор за изкуствен интелект)Windows 11 постепенно ще получи поддръжка за използването му в различни задачи. В момента обаче голяма част от натоварването на DeepSeek ще пада предимно върху графичния и централния процесор, особено при работа с по-взискателни LLM модели.
DeepSeek на вашия компютър с Ollama: леката опция от конзолата
Един от най-простите и мощни начини за локално използване на DeepSeek в Windows 11 е чрез ОламаТова е програма, която функционира като мениджър на модели на изкуствен интелект и се управлява от системната конзола. Тя няма традиционен графичен интерфейс, но в замяна... Това значително опростява процеса на изтегляне и изпълнение.
Изтеглете и инсталирайте
За да започнете, трябва да посетите официалния уебсайт на Ollama, ollama.comи натиснете бутона ИзтеглиСтраницата автоматично разпознава вашата операционна система, но ако желаете, можете да изтеглите инсталатора за друга съвместима платформа, като например macOS или GNU/Linux.
След като изтеглите файла, просто трябва Стартирайте инсталатора и следвайте инструкциите на помощникаПроцесът е много лесен: щракнете върху „Напред“, „Приемам“, „Инсталирай“ и сте готови. Ollama е сравнително леко приложение, така че няма да отнеме много време, за да се инсталира напълно на вашия компютър.
След като инсталацията приключи, трябва да стартирате Ollama. Може да изглежда, че нищо не се случва, когато я отворите, но всъщност програмата просто си стои там. работи във фонов режим като услугаОттук нататък магията се случва от командния прозорец на Windows 11.
Отворете Команден ред (CMD) с администраторски права Или, ако предпочитате, Windows Terminal. Там ще въведете необходимите команди, за да изтеглите и стартирате DeepSeek с Ollama, без сложни интерфейси или скрити менюта.
Стартирайте DeepSeek R1 8B с Ollama
След като Ollama вече работи, следващата стъпка е да инсталирате DeepSeek на твърдия си диск. Най-практичната версия за повечето потребители на Windows 11 е deepseek-r1:8b, който е намален вариант на модела R1 с размер около 4,7 GB, предназначен за по-нормални компютри.
За да го изтеглите, без все още да го стартирате, въведете следната команда в командния прозорец и натиснете Enter: ollama тегли deepseek-r1:8bТази команда казва на Ollama да изтегли модела от библиотеката си и да го подготви за употреба, когато искате да го използвате.
Изтеглянето заема няколко гигабайта, така че времето, необходимо за това, ще зависи от скоростта на вашата интернет връзкаЩе виждате напредъка, показван на екрана, докато Ollama не потвърди, че моделът е успешно съхранен на вашия компютър. След като приключи, DeepSeek R1 8B е готов за употреба.
Когато моделът работи, командният прозорец ще се превърне в нещо като минималистичен чатМожете да въведете вашето запитване (вашата заявка или въпрос) и да гледате как DeepSeek генерира отговора ред по ред. Въпреки че интерфейсът е основен, той е повече от достатъчен и много лесен за употреба за много приложения.
Промяна на версии и управление на сесията в Ollama
Едно от интересните неща за Ollama е, че ви позволява опитайте различни вариации на същия модел, само с различен етикет. В случая на DeepSeek R1, можете да проверите наличните версии на страницата на библиотеката Ollama, в секцията на тагове за deepseek-r1.
За да промените версията, просто заменете числото в командата. Например, можете да напишете ollama стартирайте deepseek-r1:7b o Олама изпълнява deepseek-r1:x според публикуваните опции. Колкото по-голям е броят на параметрите, толкова повече мощен и близък до пълния модел Ще бъде преживяване, но също така ще изисква повече ресурси от вашия компютър.
Когато използвате DeepSeek от командния ред, можете подкани за стартиране на испански Няма проблем. Моделът е по-скоро ориентиран към английския език, но ако ясно го помолите да отговаря на испански или постоянно използвате испански за въвеждане, той се адаптира без особени проблеми.
Една от любопитните подробности за DeepSeek R1 е, че може да покаже своята Вътрешно разсъждение между етикетитеТака че, преди да видите окончателния отговор, можете да наблюдавате как моделът мислено разбива проблема. Това е добър начин да разберете по-добре техния „мисловен процес“ и да забележите потенциални недостатъци в тяхната логика.
Когато искате да излезете от сесията DeepSeek в Ollama, просто въведете командата /чаоТова ви връща към нормалната конзола, без да затваряте прозореца. А ако искате да видите други полезни команди, можете да въведете /? за да може самият Оламама да ви покаже най-важните опции.
Използване на DeepSeek с графичен интерфейс на Windows 11 благодарение на LM Studio
Ако разговорът с изкуствен интелект от конзолата ви се струва малко досаден, можете да изберете решение с изчистен и модерен графичен интерфейсЕто къде идва. LM Studio, приложение, достъпно за Windows, macOS и Linux, което ви позволява да изтегляте и стартирате LLM локално по сравнително лесен за ползване начин.
LM Studio функционира като център за езикови моделиОт собствения му интерфейс можете да търсите шаблони, да ги изтегляте, конфигурирате и да отваряте чатове с тях, без да докосвате терминала. Освен това, той включва разговорна среда, много подобна на уеб-базирани чатботове като ChatGPT, което го прави идеален за по-малко технически опитни потребители.
За да го инсталирате, отидете на официалния уебсайт, lmstudio.aiИзтеглете инсталатора за Windows. След като го стартирате, процесът на инсталиране е толкова лесен, колкото следването на съветника, без особено сложни опции. След няколко минути LM Studio ще бъде готов за работа.
Когато го отворите за първи път, LM Studio обикновено предлага да изтеглите модела. Пламък 3.1 8B от Мета Като начален пример се препоръчва да приемете това изтегляне и да му позволите да се инсталира и зареди, защото това улеснява по-плавното управление на други модели от същия интерфейс.
След като Llama 3.1 8B вече е инсталирана и налична, следващата стъпка ще бъде намерете и изтеглете DeepSeek в неговата дестилирана версия, за да го използвате като основен шаблон за чат в LM Studio на Windows 11.
Търсене, изтегляне и зареждане на DeepSeek в LM Studio
В LM Studio ще видите няколко икони в лявата странична лента. За да намерите DeepSeek, щракнете върху тази, която съответства на съответния раздел. ПОВЕЧЕ, която действа като търсачка и каталог на наличните модели.
В зоната на Търсене на моделиЩе видите поле за търсене в горната част. Въведете „DeepSeek“ и изчакайте да се появи списъкът със съвместими модели. Обикновено ще се покажат, наред с други, два варианта, базирани на R1: DeepSeek R1 дестилатор (Qwen 7B) y DeepSeek R1 дестилатор (пламък 8B).
И двете опции са валидни за използване на вашия компютър с Windows 11. Версията, базирана на Llama 8B, обикновено е малко по-голяма, тъй като включва около един милиард допълнителни параметъраНо може да предложи и малко по-голям капацитет. Изберете този, който най-добре отговаря на ресурсите на вашия екип.
След като сте решили коя версия искате, изберете модела и натиснете бутона. ИзтеглиLM Studio ще се погрижи за изтеглянето на всички необходими файлове. Както при Ollama, времето ще зависи главно от скоростта на вашата интернет връзка и размера на модела.
След като изтеглянето приключи, LM Studio ще ви покаже изскачащо известие показвайки, че процесът е приключил. Това известие обикновено включва бутон като този: Заредете модел така че можете веднага да заредите DeepSeek и да го подготвите за чат.
Конфигурирайте и започнете чат с DeepSeek в LM Studio
След като щракнете върху Заредете модел От известието или списъка с изтеглени модели, LM Studio ще зареди DeepSeek в паметта и ще ви позволи да го използвате като двигател за разговори. Следващата стъпка е да отидете в раздела Чат, също и в менюто в лявото странично меню.
В прозореца за чат, в горната част, ще видите бутон или падащо меню с текст като този: Изберете модел за зарежданеЩракнете там и изберете модела DeepSeek, който току-що изтеглихте. Това ще направи този модел този, който ще захранва бъдещите ви разговори в LM Studio.
Когато изберете DeepSeek, програмата ще ви покаже поредица от опции за конфигурациякато например максималния брой жетони, настройките за температурата, top-p и други разширени параметри. Ако не сте сигурни какво да коригирате, можете да оставите настройките по подразбиране и просто да докоснете отново. Заредете модел para empezar.
След като се зареди, можете да въведете първата си заявка или задача в текстовото поле по-долу. Ще видите, че Логото, което се появява в интерфейса, е това на LM Studio.Не е на DeepSeek, но вътрешно именно последният генерира отговорите.
За да тече разговорът на испански, е достатъчно това започнете сами да пишете на испанскиМоделът ще се стреми да следва езика, на който сте задали въпроса. Ако някога ви отговори на английски, можете изрично да му кажете, че искате отговорите на испански (от Испания) и той обикновено ще се адаптира оттам.
С всичко, което предлагат дестилираните версии на DeepSeek, комбинацията от отворени модели, инструменти като Ollama или LM Studio и мощността на сравнително модерен компютър с Windows 11 превръща вашия компютър в... истинска лична лаборатория с изкуствен интелектНаличието на мощен изкуствен интелект локално ви дава свобода, поверителност и огромна възможност за учене и експериментиране без ограничения, наложени от трети страни.
