안녕하세요 dawonny 입니다.
한창 Google I/O Extended 의 시즌인데요. 한국에서는 크게 판교와 인천에서 열리는 것 같더라구요!
그래서 지난 7월 4일, 친구들과 함께 판교에서 열리는 Google I/O Extended 에 다녀왔습니다.
장소는 '판교 테크노벨리 마음AI 라운지' 였구요. 새 건물이라 그런지 쾌적했어요!
하지만 판교역에서 좀 거리가 떨어져있어서 택시를 타고 갔습니다.
세션 정보가 오픈되기 전에 블라인드 티켓을 구매해서 좀 더 저렴하게 티켓을 구매할 수 있었어요.
타임테이블은 아래와 같았습니다.
Timetable
18:30 ~ 19:00 체크인 & 네트워킹
19:00 ~ 19:20 Keynote - I/O 2024 Overview by 조희주 / GDG Pangyo
19:20 ~ 19:50 규모 이야기: 온디바이스 AI, AI PC와 클라우드 AI by 신정규, 래블업 대표, AI/ML GDE
19:50 ~ 20:00 Break Time
20:00 ~ 20:30 구글이 생각하는 인공지능이 바꿀 우리의 일하는 모습 by 안광섭, 23Que 대표
20:30 ~ 20:50 LLM과 함께라면 할 수 있어, 앱 출시 4주만에 유저 1만명 모으기 by 이준범, AI/ML GDE
20:50 ~ 21:10 I/O 2024 Offline Review by 조희주 / GDG Pangyo
21:10 ~ 22:00 Developers Block Party
입장하면서 이름표를 붙이고, 굿즈 스티커와 티셔츠를 수령해서 들어갔어요.
학생분들이 꽤 많이 보이셨고, 시끌벅적하고 북적거리는 대규모의 행사는 아니었던 것 같습니다!
하지만 오히려 편하게 즐길 수 있어서 좋았어요.
맥주와 다과들이 제공되었는데, 저녁을 먹지 않고 온 참가자들을 위해 피자를 제공해주셨습니다.
덕분에 저녁을 해결했어요 😋
아래부터는 세션을 들으면서 인상깊거나 재미있게 들었던 내용인데요.
AI에 관심도 많고, 사용도 많이 하지만 AI 공부를 주로 하는 편은 아니어서 잘 이해할 수 있을까-걱정했지만
걱정할 필요 없이 충분히 들을 수 있었던 세션들이었던 것 같습니다.
내용과 느낀점을 간략하게 기록한 것이니 이점을 참고해주세요!
규모 이야기: 온디바이스 AI, AI PC와 클라우드 AI by 신정규, 래블업 대표, AI/ML GDE
- iTerm 에도 AI 기능이 추가된 적이 있었다.
- 하지만 프라이버시에 대한 민감도 문제가 있었다고.
- iTerm 쓰고 있는데 처음 안 사실이다..!
- 2017년에 구글은 MLKit, EdgeTPU 등 다양한 AI 기술들을 시도했었다.
- 로컬 AI가 최근에 다시 부활하고 있다. 현재는 수요가 공급을 초과하는 상황.
- 과거의 기술적 허들이 있어서 불가능했던 것들이 현재는 오픈소스들을 통해서 해결했다.
- 로컬 AI가 유행할 수 있는 이유
- 로컬 연산 자원 비용이 엄청나게 감소했다.
- 로컬 디바이스 자체의 성능도 7년전과 같다고 생각하면 안된다. 크게 향상했다.
- 로컬 AI 에 대한 관심은 정말 오래전부터 있었구나-라고 생각했다. 기술이 못 받쳐줬을 뿐이었군.
- 주요 사례들
- Llama.cpp: '맥에서 Llama를 돌릴 수 없을까?'라는 질문에서 시작된 프로젝트이다.
- Ollama, vLLM
- Chrome built-in LLM API: 크롬 브라우저에 내장된 LLM API 이다.
- iOS Apple Intelligence: 애플 실리콘 기반의 전용 서버를 이용한 AI 기술이다.
- 로컬 LLM의 병목 현상
- 주요 병목은 메모리이다. 특히 핸드헬드 기기에서 치명적이다.
- 통합 메모리 아키텍처: CPU와 GPU가 동일한 메모리에 접근해서 연산을 수행한다. 이는 로컬 AI 하드웨어 최적화에 유리하지만, 대역폭 문제로 인해 과거에는 어려움이 있었다고 한다.
- 스피커님이 바라보는 미래 전망
- PC 외장 장치 NPU 시장의 재탄생을 기대한다고 하셨다. 아무래도 GPU 가 비싸고, AI기능을 더 많이 사용하기 위해서 CPU를 많이 사용하고 싶지 않아 할 것이라고 생각하시기 때문이라고.
구글이 생각하는 인공지능이 바꿀 우리의 일하는 모습 by 안광섭, 23Que 대표
- 실제 업무에서 인공지능이 많이 활용되고 있을까
- 많은 기업들이 보안 문제로 인해 실제 업무에 인공지능을 많이 사용하지 않고 있다. 사용하고 있는 비율은 21% 에 불과하다고.
- Google Workspace 와 AI
- 구글은 Workspace 에 새로운 AI 기능을 도입했다. 하지만 후기는...
- 하지만 이러한 인공지능 도입이 업무 효율 향상에 큰 영향을 미치지 못하고 있는 실정.
- 특히 Gmail 에서는 Gemini 1.5 Pro 를 활용하고 있다고 한다.
- 확실히 이전에는 어떠한 모델을 만드는지가 중요했다면, 이제는 만들어진 모델을 가지고 어떻게 쓰이나-가 관건인 것 같고, 많은 스타트업들이 그 문제에 대해서 고민하는 것 같다. 구글도 마찬가지.
- 단순히 '요약해주니까 읽기 쉽지? 업무 효율성이 높아지는 것 같지 않아?' 의 접근보다 더 확 업무 효율성 향상에 체감되는 솔루션이 나오면 좋을 것 같다.
LLM과 함께라면 할 수 있어, 앱 출시 4주만에 유저 1만명 모으기 by 이준범, AI/ML GDE
- 요즘 스팸 문제가 심각한데, 스팸 필터링 어플을 개발하시고 대박나신 개발자의 이야기
- 현재 유틸리티 부문 4위를 달성하셨다고 한다.
- 나도 마침 얼마전에 우연히 이 앱을 지인의 추천으로 알게되었었다. 우연인데 신기했다.
- 데이터 라벨링도 AI를 시켰고, iOS Swift 개발 경험이 없으셨는데 GPT 를 활용해서 앱 개발에 성공하셨다고 한다.
- 앱 개발 이후 직접 적극적으로 홍보를 하셨음(직접적인 홍보가 안돼서 강좌를 제작해서 간접홍보를 하셨다함)
- 사용자들이 문자 데이터 들어가는데 찜찜하다, 온디바이스 버전 나오면 쓰겠다-라고 하니 의견을 반영해서 버전 업데이트 때 온디바이스 버전으로 업데이트 하셨다고 한다.
- 이야기들으면서 앱 개발에 대한 열정이 갑자기 넘쳐흘렀다. 이 세션에서 확실히 느꼈다. '내가 쓰고 싶은 서비스를 만들기' 가 잘 먹히는(?) 전략인 것 같다고.
여기까지 세션을 듣고 작성해본 후기였는데요.
세션을 듣고 나서 온디바이스 AI 에 대해 관심이 생겼고,
특히 필요한 서비스를 만들기 위해서 경험해본 적 없는 스택들을 AI를 활용해서 배워가면서 개발하셨다는 경험이 정말 재미있게 들렸어요.
확실히 궁극적인 목표가 프로그램을 개발하는 것이 아닌 서비스를 만들고 배포하는 것이라면,
그 과정에서 쓰이는 도구와 스택을 어떻게든 활용하는 것이 더 중요하다라는 것을 다시한번 느꼈던 것 같습니다.
Google 이 이번에 발표를 하면서 Gemini 라는 단어만 약 150번을 언급했다고 하는데요.
그만큼 AI의 시대에 살고 있는 것 같아요.
Google 의 서비스가 다양하게 퍼져있고 저도 많이 사용하는 만큼, 놀라운 기술이 나와서 사람들을 놀래켜주었으면 좋겠습니다.
물론, 긍정적인 방향으로요!
이상 Google I/O Extended Pangyo 2024 행사 후기를 마치겠습니다.
잘못된 내용이 있다면 댓글로 알려주세요.
읽어주셔서 감사합니다.
