IT를 여행하는 히치하이커를 위한 안내서

모두의 연구소에서 정리한 라마3가 나오면서 최근 핫한 여러 모델들에 대한 깔끔한 비교 설명 내용입니다. 2024 AI 전쟁의 서막 :  메타의 라마3(Llama 3)Llama3 주요 특징 (개선사항): Llama3 vs Llama2학습데이터셋 크기: 15조개 토큰 vs 2조개 토큰컨텍스트 길이: 8K(8192) vs 4K(4096)모델 종류: 8B, 70B, 400B vs 7B, 13B, 70B아키텍처: GQA vs 7B, 13B 버전: MHA(Multi-Head Attention) + 34B, 70B 버전: GQA(Grouped Query Attention)토크나이저: 128K 토큰 vs 32K 토큰(BPE SentencePiece)2. 라마 3와 함께 주목할 LLMs(대형 언어 모델)오픈AI:GPT-..

이번에 두번째로 읽게 된 '멀티모달 생성AI인사이드'는 최근 챗GPT4.0에서 지원해주고 있는, 텍스트 to 텍스트/이미지/음성등의 멀티모달이 본격화되면서 향후 이에 대한 다양한 분야의 발전 가능성이 있을거 같아 신청했었다. 책을 읽고 난 소감을 결론부터 얘기하자면, 개인적으로 작년부터 올해까지 LLM과 생성형AI 관련 책들도 생성형AI 전체를 조망하는데 가장 좋은 책으로 꼽을수 있을 거 같다. 참고로, 작년 도서들은 개인적으로 구매했었던 책들이었다. 그 이유중의 하나는 기존의 다른책들 역시 이런 내용들을 포함하고는 있으나 어느 한쪽에 치우치는 경향들이 있었다. 그러나, 이 책에서는 관련 내용을 쉽게 설명하고, 도표등을 통해서 핵심요약까지 해주어 내용을 이해하기 쉬울 뿐만 아니라 정리까지 깔끔하게 마무리..

You can still get on the AI train! We have created a detailed AI glossary for the most commonly used artificial intelligence terms and explain the basics of artificial intelligence as well as the risks and benefits of AI. Feel free the use them. Learning how to use AI is a game changer! AI models will change the world. Text-to-text AI tools Google Bard AI Chinchilla Notion AI Chai NovelAI Caktus..

비즈니스 엔지니어가 바라보는 AI의 세계층이라는 재미있는(?)글이 있어 옮겨봅니다. ^^ 11월 말에 ChatGPT가 출시된 이후 한 가지 확실한 것은 AI의 상업적 실행 가능성이 가속화되고 있다는 점입니다. 이를 통해 AI 생태계가 어떻게 구축되고 있는지 엿볼 수 있습니다. 🔔 기본 레이어 🔔 GPT-3, DALL-E, StableDiffusion 등과 같은 범용 엔진으로 구성될 수 있습니다. 이 계층에는 다음과 같은 주요 기능이 있을 수 있습니다. 👉 범용 특정 요구 사항에 대해 보다 일반화된 솔루션을 제공하도록 구축됩니다. 이 계층은 대부분 B2B/엔터프라이즈 계층일 수 있으며 비즈니스에 힘을 실어줍니다. Web 2.0(Netflix, Slack, Uber 등)으로 만든 애플리케이션으로 구동되는 2..

한때는 열풍(?)이었던 주요 트렌드를 잘 정리했네요. 상세 내용은 원문 일독을 추천드려봅니다~ ^^ 챗GPT 열풍으로 글로벌 빅테크 시장이 격변을 맞이한 가운데 메티버스와 블록체인, NFT 및 웹3.0 등 지금까지 시장을 주도하던 ICT 키워드들이 빠르게 침몰하고 있다. 다만 AI라는 기반 인프라의 등장은 메타버스 등 주요 ICT 키워드의 종말이 아닌, 퀀텀점프의 발판이 되어줄 것이라는 기대감도 받는 중이다. 🔔 메타버스부터 웹3.0까지 🚩 메타버스 젠슨 황 엔베디아 CEO는 2020년 10월 GTC 2020 기조연설을 통해 "지난 20년을 압도하는 앞으로의 20년에는 공상과학영화에서 보던 일이 시작될 것"이라며 "메타버스가 오고 있다"고 말했다. 메타버스라는 용어는 현실세계를 의미하는 Universe(..

머신러닝을 공부하면서 늘 헤깔리는 것중에 하나가 알고리즘 부문인 거 같습니다. 마침, 이 알고리즘을 깔끔하게 정리한 글이 있어 공유해 봅니다. 데이터 영역에 관심있는 분들 뿐만 아니라 머신러닝이나 AI에 관심있는 분들은 원문을 꼭 일독하시길 강추(!)합니다~^^ 📜 지도학습 👉 선형회귀, 로지스틱 회귀, K-최근접 이웃, 나이브 베이즈, 결정 트리, 랜덤 포레스트, XG부스트, 라이트GBM, 📜 비지도학습 👉 K-평균 군집화, 주성분 분석(PCA) 🔔 선형 회귀(Linear Regression) 🚩 문제 유형 : 회귀 🚩 적합한 데이터 유형 : 종속변수와 독립변수가 선형 관계에 있는 데이터 🚩 장점: 모델이 간단하기 때문에 구현과 해석 용이, 짧은 모델링 시간 🚩 단점: 최신 알고리즘에 비해 예측력이 떨..

GPT1부터 4까지 자세히 비교하면서 GPT4를 소개한 글이 있어 공유합니다. 본문의 내용은 원문을 기반으로 제가 임의로 작성한 내용들도 있으니, 꼭 원문을 보시길 추천합니다. ^^ 🔔 GPT history(?) 모델명: 출시시기 / 파라미터수 / 특징 🚩 GPT-1: 2018년 / 1,700만개 / Unlabeled 데이터 학습, 특정 주제 분류, 분석등의 응용작업 🚩 GPT-2: 2019년 / 15억개 / 비지도 학습 기반의 패턴인식으로 대용량 데이터 학습 🚩 GPT-3: 2020년 / 1,750억개 / 자가학습 레이어로 파라미터수 100백 이상 증가, 사람처럼 글 작성, 코딩, 번역, 요약 가능 🚩 InstructGPT: 2022년 / 인간피드백기반 강화학습(RLHF)적용, 답변의 정확도와 안정성 ..