Аппле објављује АИ моделе отвореног кода који раде на уређају

Аппле је данас објавио неколико модела великих језика отвореног кода (ЛЛМ) који су дизајнирани да раде на уређају, а не преко сервера у облаку. Под називом ОпенЕЛМ (Опен Соурце Еффициент Лангуаге Моделс), ЛЛМ програми су доступни на адреси Средишњи део лица које грлизаједница за дељење АИ кода.

Као што је приказано у белом папиру [PDF]Постоји укупно осам ОпенЕЛМ модела, од којих су четири унапред обучена коришћењем ЦореНет библиотеке, а четири модела прилагођена инструкцији. Аппле користи стратегију скалирања слојева која има за циљ побољшање тачности и ефикасности.

Аппле је обезбедио код, дневнике обуке и више верзија, а не само коначни модел обуке, а истраживачи који стоје иза пројекта надају се да ће то довести до бржег напретка и „поузданијих резултата“ у области вештачке интелигенције природног језика.

ОпенЕЛМ, отворени језик који се развија. ОпенЕЛМ користи стратегију скалирања слојева за ефикасно алоцирање параметара унутар сваког слоја модела трансформатора, што резултира побољшаном прецизношћу. На пример, са буџетом параметара од око 1 милијарду параметара, ОпенЕЛМ показује побољшање од 2,36% у тачности у односу на ОЛМо док захтева 2к мање токена за пре-тренинг.

Одвајајући се од претходних пракси које само обезбеђују тежине модела, код закључивања и претходну обуку о приватним скуповима података, наша верзија укључује комплетан оквир за обуку и процену језичког модела на јавно доступним скуповима података, укључујући евиденције обуке, више контролних тачака и пре- бодова. Конфигурације обуке.

Аппле каже да покреће ОпенЕЛМ моделе како би „оснажио и обогатио отворену истраживачку заједницу“ најсавременијим језичким моделима. Дељење модела отвореног кода даје истраживачима начин да истраже ризике, податке и пристрасности модела. Програмери и предузећа могу да користе шаблоне какве јесу или да их модификују.

Отворено дељење информација постало је важно средство за Аппле да регрутује врхунске инжењере, научнике и стручњаке јер пружа могућности за истраживачке радове који иначе не би били објављени у складу са Апплеовом политиком поверљивости.

Аппле тек треба да уведе ове врсте АИ могућности на своје уређаје, али се очекује да ће иОС 18 укључити низ нових АИ функција, а гласине сугеришу да Аппле планира да покрене сопствене велике језичке моделе на уређају у сврху приватности.