រំលងទៅមាតិកា

ម៉ូដែលភាសាតូច (SLM)

ម៉ូដែលភាសាដែលត្រូវបានធ្វើឱ្យតូចជាងមុន ដើម្បីឱ្យវាអាចដំណើរការលើទូរសព្ទ ឬកុំព្យូទ័រ។ វាស្រាល លឿន និងថោក។.

소형 언어 모델(SLM)

ទិដ្ឋភាពទូទៅ

Large language models run on expensive chips in data centers. A small language model has far fewer parameters, so it can run even on a laptop or a phone. Answers come quickly, and it takes less money and electricity to use.

It knows less and is weaker at complex problems, but it handles narrow jobs well enough, such as sorting documents by type, simple summaries and answering in a fixed format. So it has become common to split the work, giving easy jobs to a small model and hard jobs to a big one.

ឧទាហរណ៍ប្រចាំថ្ងៃ

You do not need to carry every load in a big truck. For a local delivery, a small motorbike is faster and cheaper.

ហេតុអ្វីវាសំខាន់

It lets you use AI on your device without sending your data outside. Interest has grown as companies trying to cut the cost of AI ask whether it really has to be a big model.

SLM, small model, lightweight model

គោលគំនិតពាក់ព័ន្ធ

LLM (ម៉ូដែលភាសាធំ)AI ដែលបានអានអត្ថបទយ៉ាងច្រើនសន្ធឹកសន្ធាប់ និងរៀនបន្តវាដោយសរសេរពាក្យបន្ទាប់.ប៉ារ៉ាម៉ែត្រតួលេខនៅក្នុងម៉ូដែល AI ដែលត្រូវបានកំណត់ដោយការបណ្តុះបណ្តាល។ ពួកវាជាទូទៅបង្ហាញពីទំហំរបស់ម៉ូដែល.Quantizationបច្ចេកទេសដែលធ្វើឱ្យម៉ូដែល AI តូច និងស្រាលដោយរក្សាទុកតួលេខរបស់វាជាមួយនឹងភាពជាក់លាក់តិចជាងមុន។ វាមិនមានអ្វីពាក់ព័ន្ធនឹងកុំព្យូទ័រកង់ទិចទេ.Local AIAI ដែលដំណើរការលើកុំព្យូទ័រឬទូរស័ព្ទផ្ទាល់ខ្លួនរបស់អ្នកជំនួសឱ្យម៉ាស៊ីនមេដ៏ឆ្ងាយរបស់ក្រុមហ៊ុន.NPU (neural processing unit)បន្ទះឈីបដែលបង្កើតឡើងដើម្បីដំណើរការការគណនា AI នៅក្នុងទូរសព្ទ ឬកុំព្យូទ័រយួរដៃ ដោយប្រើប្រាស់ថាមពលតិច.ម៉ូដែលម៉ូដែលវែកញែកម៉ូដែល AI ដែលត្រូវបានបង្កើតឡើងដើម្បីដោះស្រាយបញ្ហាម្តងមួយជំហានៗមុនពេលវាឆ្លើយ ជំនួសឱ្យការឆ្លើយភ្លាមៗ។.ម៉ូដែល Open-source / open-weightម៉ូដែល AI ដែលត្រូវបានបញ្ចេញដើម្បីឱ្យនរណាម្នាក់អាចទាញយក ដំណើរការវានៅលើកុំព្យូទ័រផ្ទាល់ខ្លួន និងកែប្រែវាបាន.

អ្នក