Seminars
학교에서는 종종 AI 세미나가 열리고, 그 중에는 AI 대학원 에서 진행하는 세미나 수업으로 인해 열리는 경우가 대부분이다.
그냥 흘려 보내기에는 아까우니까 정리를 하면 좋겠다는 생각이 들었다.
Seminar Info
- Speaker : 이치훈 CJ 올리브네트웍스 CAIO
- Topic : ML/AI Career
Memos
- Google은 검색 knowledge graph 있음. 따라서 voice assistant 만들때도 사용 가능
- 근데 ms bing은 안됨. 연관이 없어보여도 다 필요함
- 정확도/복잡도 tradeoff
- Sota 라도 속도가 느리면 실제 사용은 힘듬
- Large scale latency 중요
- Two tower model? Simple, robust
- User 접속하면 10분 전에 precomputed vector를 그냥 추가한다
- Assumption 을 자꾸 의심하는게 필요하다. 생각을 다르게.
- Localization sensitive hashing
- Deploy한 모델을 업데이트 되는데 4개월성능이 가면 갈수록 decay됨
- 따라서 transfer, self, continual learning
- 약한 coding / PyTorch keras 깔짝거리면 ㅈ됨…
- ML만 하면 실험을 design 하는게 통계학과에 비해서 약하다! 기존 것 보다 좋다는 것을 보여주는 실험을 (ab테스트 등) 디자인 하는게 부족
Images
Conclusion
- 열심히 해야한다. PyTorch 깔짝 해서는 취직 못함.
- 폭 넓게 알고 있는건 언제나 도움이 된다. Quantization / MLOps 도 공부 해야함.