AI 연구
iPhone에서 35B LLM을 구동하는 놀라운 방법
모두가 온디바이스 AI는 작은 모델로만 가능하다고 생각하지만, 새로운 기술이 이러한 고정관념을 완전히 깨뜨렸습니다. 이 돌파구는 새로운 칩이 아니라, Apple의 OS가 이미 완벽하게 갖추고 있던 영리한 메모리 해킹 기술 덕분입니다.
기사 읽기→
Tag
#Mobile AI
3 개 게시물
AI 도구
거대 모델은 잊어라. Tiny AI가 세상을 바꾸고 있다.
대부분의 AI 개발은 비용이 많이 드는 클라우드 기반의 군비 경쟁에 갇혀 있습니다. 한 유럽의 조용한 연구소는 AI의 미래가 데이터 센터가 아닌 바로 당신의 기기에 있다는 것을 증명하고 있습니다.
기사 읽기→
AI 연구
AI 혁명이 오프라인으로 전환되었습니다
거대한 27 billion parameter AI가 이제 클라우드나 Wi-Fi 없이도 휴대폰에서 완전히 실행됩니다. 이 모델 압축의 혁신은 비할 데 없는 개인 정보 보호와 성능을 주머니 속에서 바로 제공합니다.
기사 읽기→