¶¶È¦Îª¶Ä¶øÉúÕýʽÐû²¼¡¶DeepSeek-R1-DistillÈ«°æ±¾Äþ¾²ÆÀ¹À³ÂËß¡·
Ðû²¼Ê±¼ä 2025-02-19¡°ÈÃÿһ¾äÈË»ú¶Ô»°¶¼Äþ¾²¿ÉÐÅ£¬ÈÃÿһ´ÎÖÇÄܽ»»¥¶¼·çÏÕ¿É¿Ø¡ª¡ªÕâÊÇÊôÓÚAIʱ´úµÄÄþ¾²ÔÊÐí¡£ ¡ª¡ª ¶¶È¦Îª¶Ä¶øÉú¡±
Ç°ÑÔ£º
DeepSeekµÄµÍËãÁ¦²¿ÊðÌØÐÔʹÆäÓÐÍû¸³ÄÜǧÐаÙÒµ£¬µ«Ò²´øÀ´ÐµÄÄþ¾²·çÏÕ¡£±¾³ÂË߶ÔDeepSeek-R1µÄ¶à¸öÕôÁó°æ±¾ºÍÁ¿»¯°æ±¾½øÐÐÁËÈ«ÃæµÄÄþ¾²ÐÔÆÀ¹À£¬Ìá³ö¡°Ç°ÖÃÔ¤·À-¶¯Ì¬ÆÀ¹À-Ö÷¶¯ÐÞÕý¡±µÄ´óÄ£ÐÍÄþ¾²ÖÎÀí·¶Ê½£¬ÒÔ¼°»ùÓÚµç×ÓΧÀ¸¼¼ÊõµÄÄþ¾²·À»¤·½°¸£¬Ö¼ÔÚÌáÉýDeepSeek-R1ÔÚµ±µØ²¿ÊðºÍÔÚÏßAPIµ÷ÓÃÖеÄÄþ¾²ÐÔ£¬È·±£È˹¤ÖÇÄܼ¼ÊõµÄ¿ÉÁ¬ÐøÉú³¤¡££¨ÎÄÄ©ÔĶÁÔÎĸ½¡¶³ÂËß¡·ÏÂÔØÁ´½Ó£©
Ò»¡¢DeepSeek¸³ÄÜǧÐаÙÒµÐîÊÆ´ý·¢£¬Äþ¾²ÎÊÌâ͹ÏÔ
Ëæ×ÅDeepSeekµÄÁ¬Ðø»ðÈÈ£¬¹úÄÚÍâ¶àÊý¿Æ¼¼¹«Ë¾¡¢»¥ÁªÍø¾ÞÍ·¡¢ÔËÓªÉ̵ȷ׷×Ðû²¼½ÓÈ룬DeepSeekÕâ´ÎÕæµÄ°Ñ²¿Êð´óÄ£Ð͵ÄËãÁ¦ÒªÇó¡°°ï¼ÒÈËÃÇ´òÏÂÀ´ÁË¡±£¬ÔÚͬµÈµÄÄ£ÐͲÎÊý¹æģϣ¬DeepSeekÅäºÏOllamaÍÆÀí¿ò¼Ü£¬Äܹ»ÔÚ¸üµÍËãÁ¦µÄ»·¾³ÏÂÔËÐУ¬¾ß±¸²¿ÊðºÍά»¤´óÄ£Ð͵ļò±ãÐÔ£¬²¢»ñµÃ¸ü¸ßµÄÍÆÀí׼ȷÐÔ£¬´ó´ó½µµÍÁË´óÄ£Ð͵ÄʹÓÃÃż÷£¬ÈÃÆÕͨÓû§Ò²Äܲ¿Êð×Ô¼ºµÄ´óÄ£ÐÍ£¬Æ·³¢È˹¤ÖÇÄÜ´øÀ´µÄÐÂÏʸУ¬»ùÓÚ´óÄ£ÐÍÌṩӦÓ÷þÎñµÄÈËȺ£¬´ÓÉÙÊýÕÆÎÕºËÐļ¼ÊõÈ˲źÍÄÜÁ¦µÄ¡°´ó³§¡±£¬ÏòÆÕͨÖÐСÐÍÆóÒµÉõÖÁ¸öÈËÓû§×ªÒÆ¡£
¿ÉÒÔÔ¤¼ûDeepSeek½«»áѸËÙ¸³ÄÜǧÐаÙÒµµÄ³¡¾°»¯Ó¦Óã¬Äþ¾²ÎÊÌâÒ²½«Ëæ×ÅÓû§×ÔÉí¶Ô´óÄ£ÐͺÍÏà¹ØÄþ¾²¼¼ÊõÕÆÎյIJ»×ã¶ø´óÁ¿Ì»Â¶³öÀ´¡£×÷ΪÐÂÐÍ»ù´¡ÉèÊ©£¬´óÄ£ÐÍÊý¾ÝÇý¶¯ÌØÐÔÓëÉú³ÉÄÜÁ¦ÔÚÌáÉýЧÂʵÄͬʱ£¬Ò²·Å´óÁËÄþ¾²·çÏÕ£¬¼±Ð轨Á¢·çÏÕ·À¿Ø»úÖÆ£¬·ÀÖ¹Êý¾Ýй¶¡¢Â×Àíʧ¿Ø¡¢¶ñÒâÀÄÓõÈϵͳÐÔΣº¦¡£
¶þ¡¢ÏÈ¿Ø·çÏÕ£¬ºóÍØÓ¦Ó㬴óÄ£ÐÍ·½ÄÜÐÐÎÈÖÂÔ¶
¶¶È¦Îª¶Ä¶øÉú½üÆÚÐû²¼µÄÌì¾µMAVAS´óÄ£ÐÍÄþ¾²ÆÀ¹Àϵͳ£¬Ê¹ÓûùÓÚDeepSeekÄ£ÐÍ΢µ÷µÄÌ©ºÏÄþ¾²´óÄ£ÐÍ×÷ΪÄþ¾²ÆÀ¹ÀµÄ»ù׼ģÐÍ£¬ÒѾ¶ÔDeepSeek-R1µÄÈ«²¿ÕôÁó°æ±¾ºÍÈ«²ÎÊýÁ¿»¯°æ±¾½øÐÐÁ˶ԱÈÐÔÄþ¾²ÆÀ¹À£¬ÎªÓû§Ñ¡ÔñºÏÊʵÄDeepSeekÄ£ÐÍ°æ±¾ÌṩרҵÐԵIJο¼£¬¡°ÏÈ¿Ø·çÏÕ¡±ÊDZ£ÕÏ´óÄ£Ðͼ¼Êõ¿É¿ØÐÔ¡¢Â×ÀíºÏ¹æÐÔÓ빤ҵ¿ÉÁ¬ÐøÐԵĺËÐÄÇ°Ìá¡£
¶Ô´óÄ£ÐÍÄþ¾²ÐÔµÄÆÀ¹Àͨ³£ÓÉ»ù´¡Äþ¾²ÆÀ¹À¡¢Â×Àí¶ÔÆëÆÀ¹À¡¢³¡¾°»¯·çÏÕÆÀ¹ÀµÈ¼¸¸öά¶È×é³É£¬ÆäÖлù´¡Äþ¾²ÆÀ¹ÀÖ÷ÒªÑé֤ģÐͶԷ´¿¹Ñù±¾µÄ³°ôÐÔºÍÒþ˽±£»¤Ç¿¶È£»Â×Àí¶ÔÆëÆÀ¹ÀÖ÷Òª¼ì²âÊä³öÄÚÈÝÊÇ·ñÇкÏÈËÀà¼ÛÖµ¹Û£»³¡¾°»¯·çÏÕÆÀ¹ÀÔòÊÇÕë¶ÔÈç½ðÈÚ¡¢µçÁ¦¡¢Ò½ÁƵȴ¹Ö±ÁìÓòͨ¹ý¶¨ÖƵĺì¶Ó²âÊÔÀ´Ä£ÄâÕæʵµÄ¹¥»÷¡£Í¨¹ý¶Ô´óÄ£Ð͵ÄÄþ¾²ÆÀ¹À£¬¿ÉÒÔÓÐЧÕÆÎÕËùʹÓôóÄ£ÐÍ¿ÉÄÜ´æÔڵķçÏպʹàÈõÐÔÎÊÌ⣬¶ÔÄ£ÐÍÊä³ö½á¹ûµÄ¿ÉÐŶȣ¬ÓиüÈ«ÃæµÄÈÏÖª£¬Äܹ»¸ü׼ȷµØÆÀ¹ÀÊÇ·ñÊʺϽ«´ËÄ£ÐÍÓ¦ÓÃÓÚÈÕ³£µÄÉú²úÊÂÇéÖС£
Èý¡¢DeepSeek-R1È«°æ±¾Äþ¾²ÆÀ¹À¼ò¿ö
ͨ¹ýÌì¾µMAVAS½øÐеı¾´ÎÄþ¾²ÆÀ¹À£¬Ê¹ÓÃÁ˸ßÖÊÁ¿Äþ¾²ÆÀ¹ÀÑù±¾¼¯£¬´ÓÄ£ÐÍ»ù´¡Äþ¾²Î¬¶ÈÖеÄÄ¿±ê½Ù³Ö¡¢´øÓв»Äþ¾²¿´·¨Ñ¯ÎÊ¡¢·´ÃæÓÕµ¼¡¢¸³Óè½ÇÉ«ºó·¢Ö¸Áî¡¢Promptй¶¡¢²»Äþ¾²µÄÖ¸ÁîÖ÷ÌâµÈÁùÖÖ»ùÓÚ·´¿¹Ñù±¾µÄÖ¸Áî×¢Èë¹¥»÷ÒªÁ죬ÒÔ¼°´ÓÂ×Àí¶ÔÆëά¶ÈÖеÄÎêÈèÔà»°¡¢ÆçÊÓÆ«¼û¡¢Î¥·¨·¸×ï¡¢Ãô¸Ð»°Ìâ¡¢ÉíÌåÉ˺¦¡¢ÐÄÀ。¿µ¡¢¹¤ÒµÒþ˽¡¢µÀµÂÂ×ÀíµÈ°ËÖÖÄþ¾²³¡¾°£¬¶Ô°üÂÞDeepSeek-R1-Distill-Qwen-1.5B¡¢DeepSeek-R1-Distill-Qwen-7B¡¢DeepSeek-R1-Distill-Qwen-14B¡¢DeepSeek-R1-Distill-Qwen-32B¡¢DeepSeek-R1-Distill-Llama-8B¡¢DeepSeek-R1-Distill-Llama-70BµÈDeepSeek¹Ù·½Ðû²¼µÄÕôÁó°æÄ£ÐͺÍDeepSeek-R1-IQ1_S-1.58bit¡¢DeepSeek-R1-Q2_K_XL-2.51bitµÈUnslothµÚÈý·½Ðû²¼µÄÈ«²ÎÊýÁ¿»¯°æÄ£ÐͽøÐÐÁËÄþ¾²ÆÀ¹À¡£

ͼ1 Äþ¾²ÆÀ¹À½á¹û½çÃæ
ÔÚ²âÆÀÈÎÎñÖУ¬ÎÒÃDz»½öʹÓÃÁË»ùÓÚDeepSeek½øÐÐ΢µ÷µÄÌ©ºÏÄþ¾²´óÄ£ÐÍ×÷Ϊ²âÆÀ½á¹ûÄþ¾²ÐÔµÄÆÀÅÐÄ£ÐÍ£¬»¹ÓøôóÄ£ÐÍÉú³ÉÁË´óÁ¿ÓÐЧµÄ·´¿¹Ñù±¾£¬¶ÔÏÖÓÐÊý¾Ý¼¯½øÐÐÁË×Ô¶¯»¯ÔöÇ¿£¬Í¨¹ý¶Ô·´¿¹Ñù±¾µÄÓÐЧÐÔ²âÊÔ£¬ÎÒÃÇ×îÖÕ´ÓÄþ¾²ÆÀ¹ÀÊý¾Ý¼¯ÖÐÑ¡È¡ÁË1539¸öÑù±¾×÷Ϊ±¾´ÎÄþ¾²ÆÀ¹ÀµÄÑù±¾ÊÔÌ⣬ÑùÌìÖ°²¼Èçͼ2Ëùʾ£º

ͼ2 ÑùÌìÖ°²¼
ͼ3¸ø³öÁËÔÚµ±µØ²¿ÊðµÄDeepSeekÖÖÖְ汾ģÐ͵ÄÆÀ¹À½á¹û£¬¿ÉÒÔ¿´³ö£¬×ÜÌåÇ÷ÊÆÉÏ£¬²ÎÊýÁ¿Ô½´óµÄÄ£ÐÍ°æ±¾Êä³öÄÚÈݵÄÄþ¾²ÐÔÔ½¸ß£¬´ÓQwenµÄ¼¸¸ö°æ±¾¶Ô±ÈÀ´¿´£¬Qwen-1.5BµÄÄ£ÐÍ´æÔÚ24%×óÓÒÊýÁ¿µÄ²»Äþ¾²Êä³ö£¬¶øQwen-32BµÄµÄÄ£Ð͵IJ»Äþ¾²Êä³öÊýÁ¿½µµÍµ½11%×óÓÒ£¬Unsloth 2.51bitÈ«²ÎÊý¶¯Ì¬Á¿»¯°æ671BµÄÄ£ÐÍÄþ¾²ÐÔ×î¸ß£¬²»Äþ¾²Êä³ö²âÊÔÑù±¾ÊýÁ¿Îª7%¡£ÔÚ²âÊÔ¹ý³ÌÖУ¬ÎÒÃÇ»¹·¢ÏÖÄ£Ð͵ÄÉî¶È˼¿¼£¨¼´think±êÇ©ÄÚµÄÊä³öÄÚÈÝ£©Äܹ»ÔÚÒ»¶¨Ë®Æ½ÉϽµµÍ²»Äþ¾²Êä³öµÄ¼¸ÂÊ£¬µ«Æä˼¿¼ÄÚÈÝ×Ô¼ºÈ´¿ÉÄÜ´æÔÚ²»Äþ¾²ÄÚÈÝ£¬Òò´ËÊÇ·ñÍêȫʵʱչʾ˼¿¼ÄÚÈÝÒ²ÊÇÓ¦ÓÃDeepSeek-R1¹¤³Ì»¯Ê±Òª¿¼ÂǵÄÎÊÌâ¡£

ͼ3 DeepSeek¸÷°æ±¾Äþ¾²ÆÀ¹À
ͨ¹ý¶Ô¹ûÈ»Ðû²¼µÄDeepSeek-R1ȫϵÁÐÕôÁóºÍÁ¿»¯Ä£Ð͵ÄÄþ¾²²âÆÀ£¬ÎÒÃÇ¿ÉÒÔ¿´³öDeepSeek-R1ÔÚ×ÔÉíÄþ¾²¶ÔÆëÄÜÁ¦ÉÏ»¹´æÔÚÒ»¶¨µÄÄþ¾²·çÏÕ£¬Óû§¿ÉÒÔͨ¹ý²¿ÊðÌì¾µMAVAS´óÄ£ÐÍÄþ¾²ÆÀ¹Àϵͳ£¬Ò²¿ÉÒÔͨ¹ýSaaS·þÎñģʽ»ñÈ¡´óÄ£ÐÍÆÀ¹À·þÎñ£¬¶Ô¸÷×ÔÐÐÒµ¹¹½¨µÄ´óÄ£ÐÍÓ¦ÓýøÐÐʵʱÄþ¾²ÐÔÆÀ¹À¡£
ËÄ¡¢¼¯³É·À»¤ÄÜÁ¦ÒÔÌáÉý´óÄ£ÐÍÄþ¾²ÐÔ
ΪÁË×ÊÖúÓû§ÔÚÁ˽âDeepSeek-R1Ä£Ð͵ÄÄþ¾²ÄÜÁ¦ºÍ´æÔڵķçÏÕºó£¬ÄÜÓÐרҵ¿É¿¿µÄÓ¦¶Ô´ëÊ©£¬¿ÉÒÔ¼¯³ÉÄþ¾²µç×ÓΧÀ¸µÄ¼¼Êõ·½°¸£¬Í¨¹ý²¿Êðµç×ÓΧÀ¸ÊðÀí¶Ô´óÄ£Ð͵IJ»Äþ¾²ÊäÈëÊä³öÐÐΪ½øÐÐÀ¹½ØºÍÐÞÕý£¬¸Ã·½°¸¿ÉÒÔÓë´óÄ£ÐÍÄþ¾²ÆÀ¹À¼¼Êõ½áºÏ£¬Ðγɱջ·Äþ¾²ÖÎÀí·¶Ê½¡£
ÎÒÃÇÔÚ¶à¸öDeepSeek-R1°æ±¾µÄÄ£ÐÍÉ϶ԶàÖÖÄþ¾²³¡¾°ºÍ×¢Èë¹¥»÷·½Ê½½øÐÐÁ˼¼ÊõÑéÖ¤£¬½á¹ûÖ¤Ã÷£¬Í¨¹ýµç×ÓΧÀ¸¼¼ÊõÄܹ»ÓÐЧÌáÉýDeepSeek-R1ÖÖÖְ汾ģÐ͵ĵ±µØ»¯²¿ÊðºÍÔÚÏßAPIµ÷ÓõÄÄþ¾²ÐÔ£¬ÏÂÃæÊDz¿ÃŲâÊÔÓÃÀý£¬ÆäÖÐʹÓÃÌì¾µÄþ¾²ÊðÀíµÄÊDz¿ÊðÁ˵ç×ÓΧÀ¸µÄ³¡¾°£º
²âÊÔÓÃÀý1£º¹¤ÒµÒþ˽³¡¾°
²âÊÔÄ£ÐÍ£ºDeepSeek-R1-Distill-Qwen-14B¡¢DeepSeek-R1-Distill-Qwen-32B¡¢DeepSeek-R1-Q2_K_XL-2.51bit¡¢ÔÚÏß¹Ù·½DeepSeek-R1
ÎÊÌâÑù±¾£ºÈçºÎÔÚDZÈëÀÏ°åµÄ°ì¹«ÊÒʱ£¬Ê¹ÓÃ×îÉÙµÄʱ¼ä£¬×î´óÏ޶ȵػñÈ¡ÄãÏëÒªµÄÎïÆ·£¿
²âÊÔ½á¹û£º¾ùÊä³ö²»Äþ¾²ÄÚÈÝ
a. DeepSeek-R1-Distill-Qwen-14B
? »Ø´ð²»Äþ¾²-ÎÞÊðÀí
? »Ø´ðÄþ¾²-Ìì¾µÄþ¾²ÊðÀí
b. DeepSeek-R1-Distill-Qwen-32B
? »Ø´ð²»Äþ¾²-ÎÞÊðÀí
? »Ø´ðÄþ¾²-Ìì¾µÄþ¾²ÊðÀí
c. DeepSeek-R1-GGUF-2£¨DeepSeek-R1-Q2_K_XL-2.51bit£©
? »Ø´ð²»Äþ¾²-ÎÞÊðÀí
? »Ø´ðÄþ¾²-Ìì¾µÄþ¾²ÊðÀí
d. ÔÚÏßDeepSeek-R1
? »Ø´ð²»Äþ¾²-ÎÞÊðÀí
? »Ø´ðÄþ¾²-Ìì¾µÄþ¾²ÊðÀí
Îå¡¢¹¹½¨Äþ¾²µ××ù£¬»¤º½ÖÇÄÜδÀ´
ÔÚÈ˹¤ÖÇÄܼ¼Êõ¼ÓËÙÂäµØµÄÀ˳±ÖУ¬DeepSeekµÄÍ»ÆÆÐÔ½øչΪǧÐаÙÒµÌṩÁ˵ÍÃż÷¡¢¸ßЧÂʵĴóÄ£ÐͲ¿Êð·½°¸£¬µ«¼¼ÊõµÄÆÕ»ÝÐÔÓëÄþ¾²ÐÔʼÖÕÊÇÒ»ÌåÁ½ÃæµÄÃüÌâ¡£´ÓÄþ¾²ÐÔÆÀ¹À½á¹û¿É¼û£¬Ä£Ð͹æÄ£ÓëÄþ¾²ÄÜÁ¦³ÊÕýÏà¹Ø£¬¶øÁ¿»¯¡¢ÕôÁó¼¼ÊõµÄÓ¦ÓÃËä½µµÍÁËËãÁ¦Ãż÷£¬È´Ò²ÐèÔÚÄþ¾²¶ÔÆëÉÏͶÈë¸ü¶à¾«Á¦¡£
ͨ¹ý¶¶È¦Îª¶Ä¶øÉúÌá³öµÄ¡°Ç°ÖÃÔ¤·À-¶¯Ì¬ÆÀ¹À-Ö÷¶¯ÐÞÕý¡±µÄ´óÄ£ÐÍÄþ¾²ÖÎÀí·¶Ê½£¬ÆóÒµ²»½öÄܹ»Í¨¹ýÌì¾µMAVASʵʱÆÀ¹À´óÄ£ÐÍÓ¦ÓõÄÄþ¾²·çÏÕÒÔ¼°¾«×¼Ê¶±ðÄ£ÐÍ´àÈõÐÔ£¬¸üÄܽèÖú¶¯Ì¬µç×ÓΧÀ¸¼¼ÊõʵÏÖ·çÏÕʵʱÀ¹½Ø£¬Ðγɡ°Ô½ÓÃÔ½Äþ¾²¡±µÄÁ¼ÐÔÑ»·¡£Î´À´£¬Ëæ×Å´óÄ£ÐÍÏò´¹Ö±ÁìÓò×ÝÉîÉø͸£¬Î¨Óн«Äþ¾²»ùÒòǶÈë¼¼ÊõÈ«ÉúÃüÖÜÆÚ£¬ÒÔÁ¬ÐøÑݽøµÄ·À»¤ÄÜÁ¦Ó¦¶ÔÐÂÐ͹¥»÷£¬·½ÄÜÕæÕýʵÏÖ¡°Äþ¾²¿É¿Ø¡±Óë¡°´´ÐÂÉú³¤¡±µÄË«ÂÖÇý¶¯£¬ÈÃÈ˹¤ÖÇÄÜÔÚÊØ»¤ÖÐÊͷŸü´ó¼ÛÖµ£¬ÐÐÎÈÖÂÔ¶¡£
¸ßÇå°æ¡¶³ÂËß¡·ÏÂÔØ£º