delight/허름이 retweeted
애플은 AI 전쟁에 참전하지 않았습니다. 전쟁터를 바꿨습니다.
오늘 MacBook Pro M5 Max가 공개됐습니다.
스펙이 이겁니다. 18코어 CPU, 40코어 GPU, 128GB 통합 메모리, 메모리 대역폭 614GB/s, 이전 세대 대비 AI 성능 4배, M1 대비 8배.
숫자만 보면 그냥 좋은 노트북입니다. 근데 이게 왜 AI 판을 흔드는지는 숫자 뒤에 있습니다.
먼저 상식을 하나 깨야 합니다.
AI = GPU = 엔비디아. 이게 지난 3년간의 공식이었습니다.
ChatGPT가 터진 날부터 엔비디아 주가는 수직 상승했습니다. H100 GPU 하나에 $30,000~$40,000. 데이터센터에 수천 개씩 꽂아야 합니다. OpenAI가, Google이, Microsoft가 수조 원을 쏟아부은 게 이겁니다.
그 비용이 클라우드 API 가격으로 전가됩니다. Claude 쓸 때 내는 돈, GPT 쓸 때 내는 돈. 그 돈이 결국 엔비디아 GPU 비용입니다.
애플이 다른 게임을 했습니다.
AI 연구에 수조 원 쏟지 않았습니다. 슈퍼컴퓨터 짓지 않았습니다. 트릴리언 파라미터 모델 발표하지 않았습니다.
대신 조용히 칩을 갈았습니다.
통합 메모리 아키텍처(Unified Memory)라는 개념이 있습니다. 일반 컴퓨터는 CPU와 GPU가 메모리를 따로 씁니다. GPU에 데이터를 보내려면 CPU 메모리에서 GPU 메모리로 복사해야 합니다. 이 과정에서 병목이 생깁니다.
애플 실리콘은 다릅니다. CPU, GPU, Neural Engine이 같은 메모리 풀을 씁니다. 복사가 없습니다. 128GB가 전부 AI 연산에 쓰입니다.
Reddit r/LocalLLaMA의 반응이 이걸 잘 설명합니다.
"M5 Max 128GB는 다른 클래스의 기계다. Llama 3.3 70B 모델을 Q6 양자화로 올리면 55GB. 컨텍스트 윈도우 남기고도 여유가 있다. PCIe 병목이 없다." — awesomeagents.ai
70B 모델을 노트북에서. API 비용 없이.
숫자로 보면 이겁니다.
엔비디아 H100 GPU로 같은 수준의 AI 연산을 하려면 $40,000~$50,000 장비가 필요합니다. 전기세, 냉각, 공간까지 더하면 그 이상입니다.
M5 Max MacBook Pro는 14인치 기준 $3,599부터 시작합니다. 상위 구성인 128GB 풀 옵션도 같은 카테고리 안에 있습니다.
같은 70B 모델을. 가방에 넣고 다니면서. 전기세 걱정 없이.
Reddit r/mac에서 누군가 이렇게 표현했습니다.
"Mac이 AI 에이전트 배포에 최적 플랫폼이 된 게 웃기다. 애플이 의도한 게 아닌데 통합 메모리 아키텍처가 완벽하게 맞아떨어진 거다. 행운이 전략이 됐다."
애플이 진짜 잘한 게 뭔가요.
참을성입니다.
2022년, 2023년 AI 붐이 터졌을 때 모두가 뛰어들었습니다. OpenAI, Google, Meta, Baidu. 경쟁적으로 발표하고, 경쟁적으로 모델을 냈습니다.
애플은 조용했습니다. "AI 늦었다", "애플 망했다"는 말이 쏟아졌습니다.
그 사이에 M3, M4, M5를 갈았습니다. 칩마다 Neural Accelerator를 더 넣었습니다. 메모리 대역폭을 키웠습니다. 통합 메모리를 128GB까지 늘렸습니다.
그리고 오늘 이게 나왔습니다.
이게 우리한테 무슨 의미인가요.
AI 에이전트를 운영하는 사람 입장에서 보면 명확합니다.
지금 저는 VPS에서 에이전트를 돌립니다. 월 구독료 $200, 서버 비용 $10 내고 @claudeai 를 씁니다. 구독 비용이 계속 나갑니다.
M5 Max 128GB가 있으면 다릅니다.
Qwen3-Coder 32B, Llama 3.3 70B. 이런 모델들을 로컬에서 돌릴 수 있습니다. API 비용이 0원입니다. 프라이버시도 완전 보장됩니다. 인터넷이 없어도 됩니다.
에이전트 운영 비용이 전기세만 남습니다.
애플이 AI 전쟁에서 이겼는가.
"이겼다"는 말이 좀 섣부릅니다.
클라우드 AI, 데이터센터 AI 분야에서 엔비디아는 여전히 압도적입니다. ChatGPT 수준의 모델을 개인 맥북에서 돌릴 수는 없습니다.
근데 전장이 나뉘고 있습니다.
클라우드 쪽은 엔비디아, OpenAI, Google. 엣지와 로컬 쪽은 애플.
그리고 AI가 일상에 스며들수록 "항상 켜져 있는 로컬 에이전트" 수요가 커집니다. 프라이버시 문제, 비용 문제, 인터넷 연결 문제.
그 시장에서 애플은 지금 경쟁자가 없습니다.
마지막으로 한 가지.
애플이 AI에 늦었다는 말이 2년간 쏟아졌습니다. 지금은 아무도 그 말을 안 합니다.
결과를 내기 전까지 조용한 게 꼭 뒤처진 게 아닙니다.
긴 게임을 하는 사람은 단기 소음에 반응하지 않습니다.
하지만 VPS를 사용하는 윈도우 컴으로도 우리는 충분히 에이전트 돌릴수 있습니다.
결론은 이겁니다.
구독료+VPS 비용을 매달 낼 것인가, 이 비용을 아껴서 로컬로 에이전트를 돌릴 것인가?
이 글은 개인적인 의견입니다. 출처: Apple 공식 발표, WIRED, Macworld, MacRumors, Reddit r/LocalLLaMA, r/mac, awesomeagents.ai, appleinsider (2026년 3월 기준)
Apple just won the AI war
They announced the MacBook Pro M5 Max
What would have cost $40,000 to do with Nvidia chips, now costs $3,000 with a laptop
• 4x faster AI speeds
• Up to 128gb of unified memory
• Frontier intelligence on the go
The biggest complaint about Apple before was their AI speeds
You get insane memory to run big models, but the inference was super slow
Not anymore
Apple played the long game by not spending trillions on AI researchers. They decided to just focus on building the best AI computers possible
That strategy worked. It's over.
Readers added context they thought people might want to know
There is no general 4x speedup for AI. Apple only benchmarked the time to first token (TTFT), so only the prompt *processing*, but neither the reasoning/thinking, nor the response creation. And only a small 8B model in 4 bit quant.
See footnote 1 on apple.com/macbook-pro/ (archive web.archive.org/web/2026030314…)
글항아리 출판사 대표의 글이라 신뢰가 간다. 단단하고 좋은 책을 꾸준히 내는 곳. 이 글이 말하는 정신과 태도가 널리 퍼지고 깊이 스미면 좋겠다.
“최근 AI의 등장으로 글쓰기와 번역에 대한 폄훼가 이뤄지기 전에도, 그걸 다루는 편집자는 역할 전환을 재촉당하면서 자기 일에 의심을 품도록 만드는 분위기가 있었다. 그중 하나가 편집자는 마케터 정신으로 무장해야 한다는 것이었다. 이에 따라 시간을 SNS와 카드뉴스..” v.daum.net/v/202603040011466…
delight/허름이 retweeted
n.news.naver.com/mnews/artic… 남측의 움직임이 심상치 않다는 뉴스, 많이 보셨을것인데요. 실제로 미국은 남한의 다연장 로켓 및 미사일 발사에 대한 감시를 진행했습니다. 이에 대한 기사에 코멘트를 드렸습니다.
delight/허름이 retweeted
한국같은 정책은 세계 어디에도 없고 일본에조차도 없다. 대부분의 나라들은 수단을 규제하는게 아니라 최종목적인 보안을 지키지 못했을때 징벌적 처벌을 한다
하지만 한국은 수단을 규제하고, 사고가 생겨도 규제를 완벽히 다 지켰으므로 + 북한 소행이므로 책임이 덜어지고 처벌이 경감된다(...)
delight/허름이 retweeted
사람들이 뭔가 이상한거에 꽂혀있는데 폰번호는 경우의 수가 1억밖에 안돼서 다 해보면 금방 풀리기때문에 salt가 있든없든 큰 의미가 없다 요즘 GPU 너무 좋고 sha2 ASIC도 흔해서
진짜 문제는 왜 argon2 BALLOON 이런거 안쓰고 sha2 를 썼냐는건데 놀랍게도 저건 한국 규제당국이 시킨대로 한거다!
delight/허름이 retweeted
뉴욕타임즈 선정 21세기 최고의 책 100권을 한국어 번역본으로 모두 찾아 (총 79권/미번역 21권) 인터랙티브 노션 페이지를 만들었습니다. 🔎📚
jyjeon.notion.site/21-100-c1…
delight/허름이 retweeted
AWS가 다음달부터 IPv6 안쓰고 IPv4 주소 쓰면 돈 더받겠다는데... 쪽팔리지만 우리나라 ISP는 개인 사용자에게 IPv6 주소 접속을 서비스 하지 않는다네... AWS여.
delight/허름이 retweeted
주류 언론들과 힘을 합쳐서 여당 우세인 듯한 그림으로 만들고 야당을 한심하게 깍아내리는 모양새를 계속 취해서 사람들이 투표를 포기하게 만드는 쪽으로 계속 갑니다 ㅜㅜ 여러분 투표를 포기하면 그 다음 단계는 더 큰 회의와 자기혐오를 맞이할 수 있어요 🥲 노이즈를 잘 걸러내시길
delight/허름이 retweeted
A신문사가 자사 기사 DB로 기계학습시킨 생성형 AI로 신규 기사 작성을 시험하기 시작했다고. 평소 친기업 친권력 보수 성향의 편향된 논조와 제대로 확인되지 않았거나 의도에 따라 선별되었거나 익명의 취재원 남용으로 유명한 자사 기사들로만 동종교배한 생성물이 그들 눈엔 퍽 만족스러울 것이다.
delight/허름이 retweeted
올 3월 GPT-4가 나왔을 때 메모해 둔 글인데요. GPT Builder 런칭에 부쳐 공개 해 봅니다.
📝 AI 현황과 미래 예측, 스타트업 전략
2023. 03
생성AI는 아직 극초기라 모든 예상이 무의미하다. 하지만 빠르게 궤도에 오를 것이다.
앞으로 대부분의 LLM의 성능이 GPT-4 수준에 도달 할 것이며, 해당 수준의 모델을 만드는 난이도가 크게 낮아져 직접 만들거나, 선택적으로 더욱 저렴하게 사용 할 수 있게 될 것이다. 따라서 모델 자체의 연구 개발은 경쟁력이 급격하게 떨어질 것이다. (앞으로 약 1~2년 이내로 예상)
그리고 LLM 기술의 절반은 벡터 서치 즉 의미 기반의 검색을 가능케 하는 임베딩 기술인데, 이것도 크게 발전했지만 이제 시작이다. 이 역시 앞으로 성능과 보급면에서 급격하게 발전할 것이다.
부차적으로 실시간 이미지 및 음성 생성을 통한 아바타 생성 기술도 급격하게 발전 할 것인데, 결국 모든 것의 중심에 LLM이 있을 것이다.
LLM 응용 서비스를 만드는 데에 있어서의 핵심은, 생성 그 자체 보다는 텍스트와 이미지로 되어 있는 거의 모든 분야의 정보를 이해하고 거기에서 필요한 내용을 추출하거나 가공 할 수 있다는 것이다. 하지만 그보다 더 중요한 것이 있는데, 이는 “도구”를 만들고 사용할 수 있다는 것이다.
장기적으로 보면 텍스트를 생성하는 1차원적인 작업이 아니라 복잡한 작업을 스스로 수행하도록 만드는 것이 중요하다. 여기서 중요한 것은 작업에 따라 어떤 도구가 필요한지 판단하고, 그 도구를 사용해 스스로 정보를 수집하거나 도구를 제어 하는 것이다. 그래야 사용자가 원하는 복잡한 업무를 수행 할 수 있기 때문이다.
사람들에게 정말로 필요한 AI는 모든 분야에 대한 업무를 낮은 수준으로 수행하는 것이 아닌, 특정 도메인의 업무를 전문가 수준으로 수행하는 것이다. 그리고 이 방향이 실제 업무를 도와줄 수 있는 AI를 만들 수 있는 길이면서, 장기적으로 범용 인공지능을 만들 수 있는 높은 가능성을 가진 방향이다.
즉, 코드를 작성할 줄 아는 사람이 아니라, 코드를 이용해 데이터를 분석하는 역할을 수행하는 사람이 가치있는 것 처럼, 현실 세계에 존재하는 특정 역할의 전문가로써 “업무 수행”이 가능한 에이전트가 실질적인 가치를 만든다.
앞으로 이러한 현실 세계에 존재하는 특정 전문가의 업무를 수행하거나 업무를 돕는 에이전트들이 계속 만들어 질 것이다. 특히 도메인 전문가의 업무를 돕기 위한 정보 수집과 수집한 정보의 분석을 담당하는 에이전트는 빠르게 도입 될 것으로 생각한다.
그리고 다양한 도메인의 업무를 수행하는 에이전트를 만들어, 그 위에 관리자를 두면 범용 인공지능, 즉 AGI가 된다. 더불어, 한 명의 사람이 여러 역할을 하는 다양한 에이전트로 이루어진 AI 에이전트 팀을 움직이며 한 명이 하나의 팀 수준의 생산성을 가지게 될 수 있다.
이런 미래를 고려하면, LLM 서비스의 구성은 다음과 같은 파이프라인으로 구성 될 것이다.
1. 문서와 정보에서 텍스트 추출 및 생성하는 기본 스킬 → 2. 도구를 다루는 작업을 수행하는 에이전트 → 3. 스킬과 에이전트를 개발하는 에이전트 빌더 → 4. 도메인 특성에 맞는 LLM 인프라
1에서 4로 갈 수록 기술의 난이도는 높아지고 제공하는 회사는 줄어들지만, 그 앞단의 서비스가 성장하는만큼 규모가 확장된다.
2번은 도메인마다 정보 민감도 특성과 다뤄야하는 도구가 다를 것이므로, 도메인 특화된 에이전트를 개발해야 한다. 그 중 공통 작업을 처리 할 수 있는 베이스라인의 에이전트를 개발하고, 해당 에이전트를 기반으로 자사에 맞게 커스텀 할 수 있는 환경을 제공해주는 방향으로 3번을 제공하는 형태가 적합한 전략으로 생각된다.
4번에서 제공하는 LLM 모델 개발은 어느정도 완숙기가 지나면 대부분 성능이 비슷해 질 것이므로, 제공하는 모델의 종류와 DX 전략이 중요하다.
LLM 인프라는 AWS 처럼 defacto가 될 수 있도록 만드는 DX를 극대화하는 것이 중요하다. 따라서, 미래에 인프라가 저렴해질 것을 감안해 파격적으로 저렴하게 제공해야 하며, 아주 단순한 API로 빠르게 인테그레이션 할 수 있도록 환경을 제공해야 한다. 대기업보다는 SI 업체나 중소규모 회사들이 쉽게 인테그레이션 할 수 있도록 적극적으로 지원 할 필요가 있을 것이다. 오픈소스는 기술적으로는 중요하지만, 대부분의 회사들이 직접 서빙 인프라를 구축할 수 없을 것이다.
OpenAI 수준의 범용 모델을 개발할 수 있는 회사가 아닌 이상, 범용, 코드 생성, 금융, 법률, 과학/수학, 의료 정도의 카테고리에 특화된 모델과 함께, 각 도메인에 맞는 지식 베이스 및 파인튜닝 기술을 제공하는 것이 필요하다. 그리고 이 모델들이 완성되면 그 위에 범용 에이전트를 제공 할 수 있을 것이다.
(스레드에 계속)
delight/허름이 retweeted
일본이나 중국 등지에서는 Llama를 파인튜닝하거나 개선해서, 자국어 성능을 크게 높인 오픈소스 모델을 너도나도 발표하고 있다. 큰 회사와 작은 회사 모두.
우리나라에서는 자신들의 기술력을 자랑하는 회사는 많으나 한국어 성능을 크게 높인 모델을 공개 한 회사가 거의 없다. 안타까운 일이다.
delight/허름이 retweeted
Most South Koreans are still unhappy about Japan's release of treated water from the Fukushima nuclear plant into the sea.
s.nikkei.com/3Fd1ild
delight/허름이 retweeted
CLOVA X 🆚 ChatGPT 성능 전격 비교!
CLOVA X와 ChatGPT(3.5 turbo)의 성능을 비교 해 보았습니다. 정보 제공 관점이 아닌 기능 관점에서 테스트 한 결과만 나열하였습니다. (정보 제공은 CLOVA X의 답변이 제약이 많은 편이어서 Cue가 출시되어야 Bing/Bard와 함께 제대로 비교 해 볼 수 있을 것 같습니다.)
자세한 내용은 아래 링크에서 확인하세요.
typical-clam-45a.notion.site… – at Gangnam-gu, Republic of Korea
delight/허름이 retweeted
“최근 몇 년간 강 교수의 글쓰기 패턴은 명확하다. 방송사에 대한 보수정권의 폭력적 관여에는 침묵으로 일관한다는 점이다.” pressian.com/pages/articles/…
delight/허름이 retweeted
세계 잼버리의 문제는 '메타버스'에서도 이어졌습니다. 10억을 주고 만들었다는 <세계잼버리 메타버스>의 존재는 행사의 관계자도, 참가자도, 게이머도, 일반 시민도 모르고 있었습니다. 그런데 이 어플... 더 알려지면 정말 큰일 납니다.
thisisgame.com/webzine/news/…
delight/허름이 retweeted
AutoGPT는 거의 사기에 가까울 정도로 심하게 hype 된 주제라고 본다.
간단하게 설명하자면 AutoGPT는 블록체인 같은 주제로, 컨셉은 좋지만 실제로 사용되려면 관련된 시스템이 모두 연결구축 되어 있어야 실현이 가능한 솔루션. 즉, 그것만으로 해결 할 수 있는 것은 아무것도 없다.
(1/2)
delight/허름이 retweeted
[IT TREND] 자율 AI 에이전트, ChatGPT 다음의 메가트렌드?
작성자 : sarahkim
출처 : 카카오엔터프라이즈
May 19, 2023 at 05:24PM
ift.tt/fqDHRhd
delight/허름이 retweeted
아마존 프라임 비디오가 마이크로 서비스로 운영하던 모니터링 서비스를 모놀리스로 변경해서, 비용을 90% 이상 줄이고 스케일링 능력도 향상시켰다고.
primevideotech.com/video-str…
























