IT를 여행하는 히치하이커를 위한 안내서

모두의 연구소에서 정리한 라마3가 나오면서 최근 핫한 여러 모델들에 대한 깔끔한 비교 설명 내용입니다. 2024 AI 전쟁의 서막 :  메타의 라마3(Llama 3)Llama3 주요 특징 (개선사항): Llama3 vs Llama2학습데이터셋 크기: 15조개 토큰 vs 2조개 토큰컨텍스트 길이: 8K(8192) vs 4K(4096)모델 종류: 8B, 70B, 400B vs 7B, 13B, 70B아키텍처: GQA vs 7B, 13B 버전: MHA(Multi-Head Attention) + 34B, 70B 버전: GQA(Grouped Query Attention)토크나이저: 128K 토큰 vs 32K 토큰(BPE SentencePiece)2. 라마 3와 함께 주목할 LLMs(대형 언어 모델)오픈AI:GPT-..

이번에 두번째로 읽게 된 '멀티모달 생성AI인사이드'는 최근 챗GPT4.0에서 지원해주고 있는, 텍스트 to 텍스트/이미지/음성등의 멀티모달이 본격화되면서 향후 이에 대한 다양한 분야의 발전 가능성이 있을거 같아 신청했었다. 책을 읽고 난 소감을 결론부터 얘기하자면, 개인적으로 작년부터 올해까지 LLM과 생성형AI 관련 책들도 생성형AI 전체를 조망하는데 가장 좋은 책으로 꼽을수 있을 거 같다. 참고로, 작년 도서들은 개인적으로 구매했었던 책들이었다. 그 이유중의 하나는 기존의 다른책들 역시 이런 내용들을 포함하고는 있으나 어느 한쪽에 치우치는 경향들이 있었다. 그러나, 이 책에서는 관련 내용을 쉽게 설명하고, 도표등을 통해서 핵심요약까지 해주어 내용을 이해하기 쉬울 뿐만 아니라 정리까지 깔끔하게 마무리..

프롤로그 작년에 국내의 K대학원을 다니면서 6개월간 나름 LLM을 포함한 체계적인 공부를 하기도 했었다. 그리고, GPT4.0의 유료버전을 업무상 종종 사용하곤 한다. 그러나, 현업에서 자주 사용하지 않아서인지 개념이 모호해 가던 시점이었다. 그리고, 시중에서 챗GPT라는 제목의 몇몇 책을 보았으나, 대부분 개론과 인문학적 서적에 가까웠었다. 그러던 중, 우연치않게 좋은 기회에 한빛미디어에서 이번에 내놓은 'GPT-4를 활용한 인공지능 앱 개발' 부제는 오픈AI API와 최신 GPT 모델로 창의적 앱 구축하기라는 책을 보게 되었다. 결론부터 얘기하자면, LLM에 대한 개념과 이론, 오픈AI의 GPT버전별 차이점,GPT의 고급기능, GPT의 API를 이용하거나 Langchain을 이용한 구현을 원하는 초급..

생성형 AI(Gen AI)는 사용자가 입력한 프롬프트에 따라 텍스트, 이미지, 코드 또는 기타 유형의 콘텐츠를 생성할 수 있는 머신러닝 시스템을 포괄적으로 설명하는 인공지능 기술 유형 중 하나입니다. 효과적인 콘텐츠 생성을 위해서는 '프롬프트 엔지니어링' 기술이 매우 중요합니다. 요즘에는 사용자가 질문이나 지침으로 입력을 제공하고 그 대가로 AI 모델이 인간과 유사한 응답을 생성할 수 있는 생성형 AI 모델이 애플리케이션, 도구, 챗봇에 통합되고 있습니다. LLM(대규모 언어 모델)은 자연어 처리(NLP)를 사용하여 인간과 유사한 텍스트 기반 콘텐츠를 이해하고 그에 대한 응답으로 생성하는 특수한 종류의 AI 모델입니다. 이러한 대규모 모델은 관련 정보를 저장하고 검색한 다음 일관되고 문맥에..