រំលងទៅមាតិកា

សុវត្ថិភាព AI

ការស្រាវជ្រាវ និងការការពាររួមបញ្ចូលគ្នា ដែលមានគោលបំណងរក្សា AI កុំឱ្យប៉ះពាល់ដល់មនុស្ស និងធ្វើឱ្យវាដំណើរការដូចអ្វីដែលមនុស្សចង់បាន.

AI 안전

ទិដ្ឋភាពទូទៅ

The smarter AI gets, the bigger the damage when it is misused or behaves in unexpected ways. AI safety covers keeping AI from giving out dangerous information, and keeping it from deceiving people or taking actions it was not allowed to take while doing a job. Making an AI act in line with human intentions and values is called alignment.

AI companies test a new model for dangerous abilities before release, and some publish the results in a report. But there is no settled answer to "how safe is safe enough," and it often clashes with the race to release quickly.

ឧទាហរណ៍ប្រចាំថ្ងៃ

Making a car faster is not enough. You also need brakes and seat belts and crash tests.

ហេតុអ្វីវាសំខាន់

The more work we hand to AI, the more "can we trust it with this?" matters, as much as performance does. Safety evaluations now come with new model announcements, and most regulation debates start here.

គោលគំនិតពាក់ព័ន្ធ

របាំងការពារវិធានការការពារដែលត្រួតពិនិត្យសំណើ ចម្លើយ និងសកម្មភាពដើម្បីកុំឱ្យ AI ឆ្លងកាត់ព្រំដែនដែលវាមិនត្រូវឆ្លងកាត់.Red teamingការធ្វើតេស្តដែលមនុស្សដើរតួជាអ្នកវាយប្រហារដោយចេតនា ដើម្បីស្វែងរកចំណុចខ្សោយ និងអាកប្បកិរិយាគ្រោះថ្នាក់របស់ AI មុនពេលបញ្ចេញឱ្យប្រើប្រាស់។.បទប្បញ្ញត្តិ AIច្បាប់ និងវិធានដែលក្រុមហ៊ុន និងស្ថាប័នត្រូវតែអនុវត្តតាមនៅពេលពួកគេបង្កើត និងប្រើប្រាស់ AI.AGI (បញ្ញាសិប្បនិម្មិតទូទៅ)ពាក្យសម្រាប់ AI ដែលអាចធ្វើការងារបញ្ញាពេញលេញដែលមនុស្សធ្វើបានល្អដូចមនុស្ស មិនមែនត្រឹមតែការងារមួយឬពីរនោះទេ.បញ្ញាកំពូល (ASI)ពាក្យសម្រាប់ AI ដែលធ្វើស្ទើរតែគ្រប់យ៉ាងបានល្អជាងមនុស្សដែលពូកែបំផុត។ វាមិនទាន់មាននៅឡើយទេ ហើយជាដំណាក់កាលស្រមើស្រមៃ។.សុវត្ថិភាព និងច្បាប់Local AIAI ដែលដំណើរការលើកុំព្យូទ័រឬទូរស័ព្ទផ្ទាល់ខ្លួនរបស់អ្នកជំនួសឱ្យម៉ាស៊ីនមេដ៏ឆ្ងាយរបស់ក្រុមហ៊ុន.របាំងការពារវិធានការការពារដែលត្រួតពិនិត្យសំណើ ចម្លើយ និងសកម្មភាពដើម្បីកុំឱ្យ AI ឆ្លងកាត់ព្រំដែនដែលវាមិនត្រូវឆ្លងកាត់.

អ្នក