{
    "componentChunkName": "component---src-templates-post-tsx",
    "path": "/fid_and_rag/",
    "result": {"data":{"logo":null,"markdownRemark":{"html":"<h1>Generation with Retrieval</h1>\n<p>이번에 딥마인드에서 <a href=\"https://deepmind.com/research/publications/2021/improving-language-models-by-retrieving-from-trillions-of-tokens\">RETRO(Retrieval-Enhanced Transformer)</a> 라는 모델을 내놓았습니다. 문서 retrieval + GPT 기반 모델인데,\n7B 모델임에도 불구하고 25배나 큰 모델과 비견될만한 성능을 보여줬습니다. 요즘 트렌드는 검색 + GPT로 가는 것 같습니다.</p>\n<p>언어모델이 아무리 크고 많은 데이터를 봤다고 하더라도 세상의 모든 지식을 담을 수는 없습니다.\n그리고 새롭게 생긴 지식이라면 더더욱 언어모델 입장에서는 알 수가 없습니다. 이런 문제를 검색과 결합해서\n풀어보려는 시도가 많이 있었고, 이번 포스팅에서는 그 기반이 된 개념인 <strong>Fusion-in-Decoder(FID)</strong> 와 <strong>Retrieval-Augmented Generation(RAG)</strong>\n를 다뤄보겠습니다.</p>\n<h2>Fusion-in-Decoder (FiD)</h2>\n<p><strong>Fusion-in-Decoder(FID)</strong> 는 생성 모델 입력에 검색 결과를 넣어서 활용합니다.\n아래 그림과 같이 어떤 쿼리가 들어왔을 때 적절한 N개의 문서를 가져오고 이 결과를 언어모델의 인코더에 넣어줍니다.\n그리고 디코더는 이 결과를 활용해서 적절한 응답을 생성하는 방식입니다.</p>\n<img src=\"https://user-images.githubusercontent.com/42150335/148075563-977db2da-5297-41f1-9f11-cfd54f9ffe4a.png\" width=\"300\">  \n<p>FiD 본 논문에서 검색 모델은 BM25, DPR(Dense Passage Retrieval )을 활용했습니다. 생성 모델로는 위에 설명한 바와 같이\n인코더와 디코더가 필요하기 때문에 T5, Bart와 같은 Seq2seq (Sequence-to-Sequence) 기반의 모델을 사용했습니다.</p>\n<p>FiD는 이름은 거창하지만 방식 자체는 어렵지 않습니다. 아래 2개의 개념만 알면 됩니다.</p>\n<ol>\n<li>FiD의 인코더 입력 형식</li>\n</ol>\n<div class=\"gatsby-highlight\" data-language=\"text\"><pre class=\"language-text\"><code class=\"language-text\">Question:  Where was Alan Turing born? \nContext: Alan Turing was a British computer scientist. Born in Maida Vale, London.</code></pre></div>\n<ol start=\"2\">\n<li>FiD의 디코더 입력 형식</li>\n</ol>\n<img src=\"https://user-images.githubusercontent.com/42150335/148076695-0fd48602-36dc-4d95-b579-b3c720a32c7d.png\" width=\"450\">\n<p>위 그림과 같이 N개 문서에 대한 각 인코더 아웃풋 벡터를 이어붙여서(concat) 디코더에 넣고 답변을 생성합니다.</p>\n<p>FiD 본 논문에서는 프리트레이닝 된 T5 모델로 Question-Answer pair 데이터로 파인튜닝해서 모델을 만들었습니다.\n검색 모델(BM25, DPR)은 따로 학습하지 않았다고 합니다.</p>\n<h2>Retrieval Augmented Generation (RAG)</h2>\n<img src=\"https://user-images.githubusercontent.com/42150335/148077292-38acd9d7-e6b7-46aa-821a-4a918ca0f7d8.png\" width=\"450\">\n<p><strong>Retrieval-Augmented Generation(RAG)</strong> 역시 생성시에 검색 결과를 활용합니다.\nFiD와의 차이점으로는 검색 모델을 따로 학습하지 않은 FiD와는 달리 RAG는 검색 모델 역시 학습한다는 차이가 있습니다.\n(RAG는 Retriever로 bi-encoder 기반의 DPR, Generator로 BART를 사용했습니다.)</p>\n<p>RAG는 <code class=\"language-text\">RAG-Sequence</code>와 <code class=\"language-text\">RAG-Token</code>라는 2가지의 변형 알고리즘을 만들었습니다.\n둘은 계산을 행하는 단위가 문장 전체냐, 토큰이냐의 차이를 가지고 있습니다.</p>\n<h3>RAG-Sequence</h3>\n<img src=\"https://user-images.githubusercontent.com/42150335/148079083-bbe3b655-665f-4e46-b76f-7ae91c2ee3a1.png\" width=\"250\">\n<ol>\n<li>Retriever로 쿼리와 관련된 K개의 문서를 찾는다.</li>\n<li>K개 문서 각각을 프롬프트로 하는 시퀀스를 K개 생성한다.</li>\n<li>2에서 구한 K개의 시퀀스의 확률 분포를 모두 합친다.</li>\n</ol>\n<p>위 그림과 같이 관련 있는 문서 K개에 대하여 시퀀스 길이 N까지 예측한 확률 분포 시퀀스를 모두 더한 뒤,\n각 위치에서 가장 높은 확률을 갖는 토큰들을 뽑아내면 됩니다.\n여러개의 생성 모델로 예측한 뒤 합쳐서 토큰을 뽑아내는 앙상블 방식과 유사하다는 생각이 듭니다.</p>\n<h3>RAG-Token</h3>\n<img src=\"https://user-images.githubusercontent.com/42150335/148079562-daff56f3-1fbe-4e33-a66a-6fa649ddade5.png\" width=\"250\">\n<ol>\n<li>Retriever로 쿼리와 관련된 K개의 문서를 찾는다.</li>\n<li>다음 토큰을 생성할 때 K개 문서 각각에 대해서 구한다.</li>\n<li>2에서 구한 확률 분포를 합쳐서 다음 토큰을 결정한다.</li>\n<li>이를 시퀀스 길이 N만큼 반복한다.</li>\n</ol>\n<p>방식 자체는 RAG-Sequence와 크게 다르지 않습니다.\n단지 확률 분포를 언제 합치느냐만 다릅니다.\n다음 토큰을 예측할 때 Acoustic 모델과 Language 모델 2개의 확률분포를 합쳐서 결정하는\n음성인식 시스템과 유사한 방식이라는 생각이 듭니다.</p>\n<p>주의할 점은 학습 대상은 DPR의 쿼리인코더와 Generator인 BART이며, DPR의 문서 인코더는 고정해 두었습니다. (bi-encoder 구조 참고!)</p>\n<p>그리고 “Retrieval Augmentation Reduces Hallucination in Conversation” 논문에 따르면 RAG로 학습한 검색 모델을\nFiD의 검색 모델로 사용시 FiD의 성능을 높일 수 있다고 합니다 :)</p>\n<h2>Reference</h2>\n<ul>\n<li><a href=\"https://ratsgo.github.io/insight-notes/docs/qa/answerer\">ratsgo님 블로그</a></li>\n<li><a href=\"https://arxiv.org/pdf/2007.01282.pdf\">Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering</a></li>\n<li><a href=\"https://arxiv.org/pdf/2005.11401.pdf\">Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks</a></li>\n<li><a href=\"https://arxiv.org/pdf/2104.07567.pdf\">Retrieval Augmentation Reduces Hallucination in Conversation</a></li>\n</ul>","htmlAst":{"type":"root","children":[{"type":"element","tagName":"h1","properties":{},"children":[{"type":"text","value":"Generation with Retrieval"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"이번에 딥마인드에서 "},{"type":"element","tagName":"a","properties":{"href":"https://deepmind.com/research/publications/2021/improving-language-models-by-retrieving-from-trillions-of-tokens"},"children":[{"type":"text","value":"RETRO(Retrieval-Enhanced Transformer)"}]},{"type":"text","value":" 라는 모델을 내놓았습니다. 문서 retrieval + GPT 기반 모델인데,\n7B 모델임에도 불구하고 25배나 큰 모델과 비견될만한 성능을 보여줬습니다. 요즘 트렌드는 검색 + GPT로 가는 것 같습니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"언어모델이 아무리 크고 많은 데이터를 봤다고 하더라도 세상의 모든 지식을 담을 수는 없습니다.\n그리고 새롭게 생긴 지식이라면 더더욱 언어모델 입장에서는 알 수가 없습니다. 이런 문제를 검색과 결합해서\n풀어보려는 시도가 많이 있었고, 이번 포스팅에서는 그 기반이 된 개념인 "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"Fusion-in-Decoder(FID)"}]},{"type":"text","value":" 와 "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"Retrieval-Augmented Generation(RAG)"}]},{"type":"text","value":"\n를 다뤄보겠습니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Fusion-in-Decoder (FiD)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"Fusion-in-Decoder(FID)"}]},{"type":"text","value":" 는 생성 모델 입력에 검색 결과를 넣어서 활용합니다.\n아래 그림과 같이 어떤 쿼리가 들어왔을 때 적절한 N개의 문서를 가져오고 이 결과를 언어모델의 인코더에 넣어줍니다.\n그리고 디코더는 이 결과를 활용해서 적절한 응답을 생성하는 방식입니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"img","properties":{"src":"https://user-images.githubusercontent.com/42150335/148075563-977db2da-5297-41f1-9f11-cfd54f9ffe4a.png","width":300},"children":[]},{"type":"text","value":"  \n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"FiD 본 논문에서 검색 모델은 BM25, DPR(Dense Passage Retrieval )을 활용했습니다. 생성 모델로는 위에 설명한 바와 같이\n인코더와 디코더가 필요하기 때문에 T5, Bart와 같은 Seq2seq (Sequence-to-Sequence) 기반의 모델을 사용했습니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"FiD는 이름은 거창하지만 방식 자체는 어렵지 않습니다. 아래 2개의 개념만 알면 됩니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"ol","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"FiD의 인코더 입력 형식"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{"className":["gatsby-highlight"],"dataLanguage":"text"},"children":[{"type":"element","tagName":"pre","properties":{"className":["language-text"]},"children":[{"type":"element","tagName":"code","properties":{"className":["language-text"]},"children":[{"type":"text","value":"Question:  Where was Alan Turing born? \nContext: Alan Turing was a British computer scientist. Born in Maida Vale, London."}]}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"ol","properties":{"start":2},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"FiD의 디코더 입력 형식"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"img","properties":{"src":"https://user-images.githubusercontent.com/42150335/148076695-0fd48602-36dc-4d95-b579-b3c720a32c7d.png","width":450},"children":[]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"위 그림과 같이 N개 문서에 대한 각 인코더 아웃풋 벡터를 이어붙여서(concat) 디코더에 넣고 답변을 생성합니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"FiD 본 논문에서는 프리트레이닝 된 T5 모델로 Question-Answer pair 데이터로 파인튜닝해서 모델을 만들었습니다.\n검색 모델(BM25, DPR)은 따로 학습하지 않았다고 합니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Retrieval Augmented Generation (RAG)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"img","properties":{"src":"https://user-images.githubusercontent.com/42150335/148077292-38acd9d7-e6b7-46aa-821a-4a918ca0f7d8.png","width":450},"children":[]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"Retrieval-Augmented Generation(RAG)"}]},{"type":"text","value":" 역시 생성시에 검색 결과를 활용합니다.\nFiD와의 차이점으로는 검색 모델을 따로 학습하지 않은 FiD와는 달리 RAG는 검색 모델 역시 학습한다는 차이가 있습니다.\n(RAG는 Retriever로 bi-encoder 기반의 DPR, Generator로 BART를 사용했습니다.)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"RAG는 "},{"type":"element","tagName":"code","properties":{"className":["language-text"]},"children":[{"type":"text","value":"RAG-Sequence"}]},{"type":"text","value":"와 "},{"type":"element","tagName":"code","properties":{"className":["language-text"]},"children":[{"type":"text","value":"RAG-Token"}]},{"type":"text","value":"라는 2가지의 변형 알고리즘을 만들었습니다.\n둘은 계산을 행하는 단위가 문장 전체냐, 토큰이냐의 차이를 가지고 있습니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h3","properties":{},"children":[{"type":"text","value":"RAG-Sequence"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"img","properties":{"src":"https://user-images.githubusercontent.com/42150335/148079083-bbe3b655-665f-4e46-b76f-7ae91c2ee3a1.png","width":250},"children":[]},{"type":"text","value":"\n"},{"type":"element","tagName":"ol","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"Retriever로 쿼리와 관련된 K개의 문서를 찾는다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"K개 문서 각각을 프롬프트로 하는 시퀀스를 K개 생성한다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"2에서 구한 K개의 시퀀스의 확률 분포를 모두 합친다."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"위 그림과 같이 관련 있는 문서 K개에 대하여 시퀀스 길이 N까지 예측한 확률 분포 시퀀스를 모두 더한 뒤,\n각 위치에서 가장 높은 확률을 갖는 토큰들을 뽑아내면 됩니다.\n여러개의 생성 모델로 예측한 뒤 합쳐서 토큰을 뽑아내는 앙상블 방식과 유사하다는 생각이 듭니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h3","properties":{},"children":[{"type":"text","value":"RAG-Token"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"img","properties":{"src":"https://user-images.githubusercontent.com/42150335/148079562-daff56f3-1fbe-4e33-a66a-6fa649ddade5.png","width":250},"children":[]},{"type":"text","value":"\n"},{"type":"element","tagName":"ol","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"Retriever로 쿼리와 관련된 K개의 문서를 찾는다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"다음 토큰을 생성할 때 K개 문서 각각에 대해서 구한다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"2에서 구한 확률 분포를 합쳐서 다음 토큰을 결정한다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"이를 시퀀스 길이 N만큼 반복한다."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"방식 자체는 RAG-Sequence와 크게 다르지 않습니다.\n단지 확률 분포를 언제 합치느냐만 다릅니다.\n다음 토큰을 예측할 때 Acoustic 모델과 Language 모델 2개의 확률분포를 합쳐서 결정하는\n음성인식 시스템과 유사한 방식이라는 생각이 듭니다."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"주의할 점은 학습 대상은 DPR의 쿼리인코더와 Generator인 BART이며, DPR의 문서 인코더는 고정해 두었습니다. (bi-encoder 구조 참고!)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"그리고 “Retrieval Augmentation Reduces Hallucination in Conversation” 논문에 따르면 RAG로 학습한 검색 모델을\nFiD의 검색 모델로 사용시 FiD의 성능을 높일 수 있다고 합니다 :)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Reference"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"ul","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"https://ratsgo.github.io/insight-notes/docs/qa/answerer"},"children":[{"type":"text","value":"ratsgo님 블로그"}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"https://arxiv.org/pdf/2007.01282.pdf"},"children":[{"type":"text","value":"Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering"}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"https://arxiv.org/pdf/2005.11401.pdf"},"children":[{"type":"text","value":"Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks"}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"https://arxiv.org/pdf/2104.07567.pdf"},"children":[{"type":"text","value":"Retrieval Augmentation Reduces Hallucination in Conversation"}]}]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"excerpt":"Generation with Retrieval 이번에 딥마인드에서 RETRO(Retrieval-Enhanced Transformer) 라는 모델을 내놓았습니다. 문서 retrieval + GPT 기반 모델인데,\n7B 모델임에도 불구하고 2…","fields":{"readingTime":{"text":"6 min read"}},"frontmatter":{"title":"Sooftware NLP - Generation with Retrieval","userDate":"4 January 2022","date":"2022-01-04T23:00:00.000Z","tags":["nlp","paper"],"excerpt":null,"image":{"childImageSharp":{"gatsbyImageData":{"layout":"fullWidth","backgroundColor":"#f8f8f8","images":{"fallback":{"src":"/static/37530fc680166ef6d64a040fedb23876/7eb21/fid.png","srcSet":"/static/37530fc680166ef6d64a040fedb23876/41321/fid.png 750w,\n/static/37530fc680166ef6d64a040fedb23876/22692/fid.png 1080w,\n/static/37530fc680166ef6d64a040fedb23876/7eb21/fid.png 1344w","sizes":"100vw"},"sources":[{"srcSet":"/static/37530fc680166ef6d64a040fedb23876/3df03/fid.webp 750w,\n/static/37530fc680166ef6d64a040fedb23876/cd184/fid.webp 1080w,\n/static/37530fc680166ef6d64a040fedb23876/2e84a/fid.webp 1344w","type":"image/webp","sizes":"100vw"}]},"width":1,"height":0.6607142857142857}}},"author":[{"id":"Soohwan Kim","bio":"Co-founder/A.I. engineer at TUNiB.","avatar":{"children":[{"gatsbyImageData":{"layout":"fullWidth","backgroundColor":"#282838","images":{"fallback":{"src":"/static/a9e6b445142b247ee4cfa66155398bb2/0d6f4/soohwan.png","srcSet":"/static/a9e6b445142b247ee4cfa66155398bb2/248f9/soohwan.png 40w,\n/static/a9e6b445142b247ee4cfa66155398bb2/fd435/soohwan.png 80w,\n/static/a9e6b445142b247ee4cfa66155398bb2/0d6f4/soohwan.png 120w","sizes":"100vw"},"sources":[{"srcSet":"/static/a9e6b445142b247ee4cfa66155398bb2/e7f45/soohwan.webp 40w,\n/static/a9e6b445142b247ee4cfa66155398bb2/589ec/soohwan.webp 80w,\n/static/a9e6b445142b247ee4cfa66155398bb2/71a38/soohwan.webp 120w","type":"image/webp","sizes":"100vw"}]},"width":1,"height":0.6833333333333333}}]}}]}},"relatedPosts":{"totalCount":50,"edges":[{"node":{"id":"6529d72e-80e7-5d61-a672-d66276a3f641","excerpt":"MoE(Mixture of Experts) 기초부터 DeepSeek 혁신까지 작년 이맘때쯤 DeepSeek-V3가 저비용으로 엄청난 성능을 보이면서 화제가 되었습니다. 그 핵심 기술인 MoE(Mixture of Experts…","frontmatter":{"title":"MoE(Mixture of Experts) 기초부터 DeepSeek 혁신까지","date":"2026-01-15T01:11:55.000Z"},"fields":{"readingTime":{"text":"8 min read"},"slug":"/developed-moe/"}}},{"node":{"id":"8b49d3ef-4ce3-568c-9d71-240ff17fc3e0","excerpt":"BERT는 사실 Diffusion 모델이였다?! 최근 굉장히 흥미로운 글을 읽게되어 공유합니다. 원문 : link BERT와 Diffusion이 같은 방식이다?! NLP 연구자들에게 BERT는 너무 익숙한 모델입니다. 201…","frontmatter":{"title":"BERT는 사실 Diffusion 모델이였다?!","date":"2025-10-21T12:00:00.000Z"},"fields":{"readingTime":{"text":"8 min read"},"slug":"/bert_diffusion/"}}},{"node":{"id":"7c7e1676-ea84-58de-970c-ddec9aa10660","excerpt":"RLHF는 수다쟁이를 만든다?! (Does RLHF Breed Verbose Chatterboxes?!) RLHF(Reinforcement Learning from Human Feedback)는 OpenAI의 ChatGPT…","frontmatter":{"title":"RLHF는 수다쟁이를 만든다?! (Does RLHF Breed Verbose Chatterboxes?!)","date":"2024-03-13T01:11:55.000Z"},"fields":{"readingTime":{"text":"7 min read"},"slug":"/rlhf-vervosity/"}}},{"node":{"id":"2b9d3e22-1796-5fab-878d-5941d2e76e9d","excerpt":"LLM Paper Abstract - 2023.12 LLM…","frontmatter":{"title":"LLM Paper Abstract - 2023.12","date":"2024-01-05T10:00:00.000Z"},"fields":{"readingTime":{"text":"5 min read"},"slug":"/llm-abs-202312/"}}},{"node":{"id":"f43fa33b-917b-5c00-8462-937d99592ad7","excerpt":"What it MoE? (Mixture of Experts) 현존 최강 LLM인 GPT-4에서 “MoE (Mixture of Experts)” 방식을 채택하여 사용하고 있다고 알려졌는데요, 최근 AI계의 뜨거운 감자 Mistral AI…","frontmatter":{"title":"What is MoE? (Mixture of Experts)","date":"2023-12-22T01:11:55.000Z"},"fields":{"readingTime":{"text":"9 min read"},"slug":"/moe/"}}}]}},"pageContext":{"slug":"/fid_and_rag/","prev":{"excerpt":"Basic Computer System ※ 본 포스팅의 내용은  책을 읽고 공부한 내용을 기록한 포스트입니다. 컴퓨터를 구성하는 3 요소 연산 장치 (CPU) => 초당 얼마나 많이 계산 가능한지 메모리 장치 (RAM, Hard-Drive…","frontmatter":{"title":"Basic Computer System - 연산 장치","tags":["cs"],"date":"2022-01-04T10:00:00.000Z","draft":false,"excerpt":null,"image":{"childImageSharp":{"gatsbyImageData":{"layout":"fullWidth","placeholder":{"fallback":"data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAABQAAAAPCAYAAADkmO9VAAAACXBIWXMAAAsTAAALEwEAmpwYAAAD4UlEQVQ4y0WU208TBhhHfwXdXFyWKG6Lmi27ODNdxJmZaHQKDmdUGDKxIiBYEMqdttxaoOXSloKlBQpdhTKgWEFFvECMl83p1G26xMy9bNmepi97WrbnPZ2l8WH/wEm+fL9zpCI3MvWiqmFkiZJsiZBU6ERlfSztOIfqhlF9GHkWSLJPodphlF2HjncicwCZg8jYgg6YUY4VJSBqnEAdc8h7hRc6LvBmxxQ60cNaZ4Rk/02S+m+xLHoHueZRaRcyWlHTGLKOIpMPlfahmjCqHEJynEW+RTR0G43eR8N3WX/uERvHr7HSs0jd5VHuP/Nz88+fqY9Xo6xSDJYgKe5pXnF+SYp3luXuWVQXRvntSN2XUOArFP0ORR+yPPYDey7cY+fVnzBevA2/rebffw5w99nv/P3sJIe7S9k8eJEjE/OsDV1hhT2M4YQLlXqRuR/JFkXBG+j0AxR7wvKZJ6Seu4/x8mP812b44/HHdN94QNYt+PGpkxu3jKSNX2ff1CJrnOOobhC1RJFjCjVPIpV0oKLEE05h6JhFga9Jm3uIraGdosFvKJl7yuY4ZHwLv/6yk8eXPqWwf5I9nb1s8YZZ1RzinZYgOlSD9pmQ+uZQ6wRqjrCkdoSlzhnKJs5zyj9Aak434eF6Hs1n8sn5v8gLf097q4vGzh4KwzG2BqZ5r7KL1/YXot1HUXo+UmsUVQdQeYgV/YvkXr3HNl+E0fgZcooa2L41nUDeu2Rml7MlrYKsI4VUNHVx3D+OagMoz4FyLKi4ExW6kHyzyDLCKu8l1sfusGPwLGlDZ8nv9DA0Gid12z42pGbw/rbD5BVX4PT24vP3sKZlGB2ykpRbj8p6UIkX5TYhBRcw1A7xatsk22PXSYvMkzG5QLovTFd/AKc3yHFTBdYWN5VNDvafNLPpRA3pXYO83jOLakcw5LehrCqUUYxU7mNJgYv1rRHKonHKJ8+TO7PILv8EbxVb2VvTRlFVFbsKTHxo7+Mj5yBbXSEyLQ4OOntZVuFH2RZ02IaMzSixnzfcU+wYiLPBM8mL/QukuCZIso4gYyPKqkEFdnb3nGZdYI7UU9O8bBthY8cXbC6u4+1CK4bE/kp6n+soRwy551jZNc1S1yxyX0DVQ6gxgqGki+S6AVQb4rO+06TYx1jRHWedI8RKW4h11W6SM80YsmvRUTs6ljAl4aNnDrUkwBcxNI6icj9KnFLiQSYPqgywqXuMD9rDqGkKgz2GqkOsqg/yktGG9pqeAz9PxKFpArXFUdsZ1DCGGqL/1yPtGCpwocoBZBlldZGd5JN9yDaO7PHnMSh2o4NmlFmJcur5D0BEimXr4LuFAAAAAElFTkSuQmCC"},"images":{"fallback":{"src":"/static/701ec19008a764b7dd4bccbc63d2efdc/ef255/computer_architecture.png","srcSet":"/static/701ec19008a764b7dd4bccbc63d2efdc/76a4f/computer_architecture.png 750w,\n/static/701ec19008a764b7dd4bccbc63d2efdc/a902f/computer_architecture.png 1080w,\n/static/701ec19008a764b7dd4bccbc63d2efdc/61156/computer_architecture.png 1366w,\n/static/701ec19008a764b7dd4bccbc63d2efdc/ef255/computer_architecture.png 1592w","sizes":"100vw"},"sources":[{"srcSet":"/static/701ec19008a764b7dd4bccbc63d2efdc/66907/computer_architecture.webp 750w,\n/static/701ec19008a764b7dd4bccbc63d2efdc/27610/computer_architecture.webp 1080w,\n/static/701ec19008a764b7dd4bccbc63d2efdc/90004/computer_architecture.webp 1366w,\n/static/701ec19008a764b7dd4bccbc63d2efdc/0d756/computer_architecture.webp 1592w","type":"image/webp","sizes":"100vw"}]},"width":1,"height":0.75}}},"author":[{"id":"Soohwan Kim","bio":"Co-founder/A.I. engineer at TUNiB.","avatar":{"childImageSharp":{"gatsbyImageData":{"layout":"fullWidth","placeholder":{"fallback":"data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAABQAAAAOCAYAAAAvxDzwAAAACXBIWXMAABYlAAAWJQFJUiTwAAADjElEQVQ4y23Oy48TdQDA8TExEaTttvSBfdHddru7bWc6bWd+8+i0u23n0SdlBRQXZGHDgiiLDwgqXjCIJEaC8cLBmHgwUU9EYzRqQuLJi/4NJB6NF+8evgbOHr7XT76SM5ix7s4QnRHnnm9yZzvBTIswN8JcP5bC67ZoWi7CdtFsn5bloZo+dSNAMYbIIqCmD6mJIVXdR3J6I7r9IQ3T59pZlW+uxzndCbPdC/HZXoq3TikowsfqBOjOmFZ7SrM9p2kfRbXn1O0jKNbsSbJ5BMnu9Gl3+qiiz4OPSvz0QRLHFGwOZH6+neLHT5YRbRerM0J0JrTas/8FZXNKzZgg2es+ZtvDdbs8+iHJl+9lWVP7OG2br26k+PvXJCfmFqoYIpwhTXtMwxpTN0coxhjFmCKbE2rGmKoYPQY9qi2fyzsq//4e5sNXi5TlLqbd5t6lPH/9kuDTG2usqgGi7dO0hzSsIXUzQDaGKGKMLEZUxZCKCJB02+PUpMH9vQwP7ybYnSxyfNrjwumA3dEiD94v8cfnK7xzWsbpujQtH9X0qBs+iuEjC5+a7lPVPSqai9SyelyYFbjkh5hqC3TkKOutLON2nkYpgtuMcT6IszdPslo8SLlcpmUH1A0XRQyQhUtNuFQ1l4o2QFI1h3OTVXbcg+grIfSVBRqlEGopgrYSRi0e4KiIse1mScSeopA/iLADmoZL3Rgg631q+oCq1qeq95FOzhQefpzn7eMpBmqcoBVj04pzwkky0eNMRYIdL8F3twusLe2nslrE6g5pGX1U8/FhD1nvUW1tUJK7SH9+n+DR1zF2vQSvH0lz88wiV45V2J1WuHqsxLXNAnuzNJdfWmK5/BylUgFhb6DZAxR9g7rpIos+Wttja2uE9M9vYb69k+DqfJErWzLOuoVqdKlpDo4jODms4zlFckuHObx4iHwuRi6fYqmYY201x/LqMrnFDNl8gRvvukhNdT9394rcOlNFMxrUhYFmW9imTEsp0mhWKC2nWSokyWSiFA7HSKcXiEb34fayyLVniUQk8rmn2drKIqlqiNcuVrh2ymQS1Nh8sc/GoMEbl7u8eb5D1yqTzkRJJsOkkiGymQVShyLE4yHWKnEq1RjpTIhmI8r2y3mkyloI38uha1n6bpVXrkw5+4LD/S/2uHnrIopaJhZ9hmQqwqHkAXJP8BDhyD46ZoWdMxOGcx/PNfECk/8AbxXdRjRliPoAAAAASUVORK5CYII="},"images":{"fallback":{"src":"/static/a9e6b445142b247ee4cfa66155398bb2/7cf1f/soohwan.png","srcSet":"/static/a9e6b445142b247ee4cfa66155398bb2/34f77/soohwan.png 750w,\n/static/a9e6b445142b247ee4cfa66155398bb2/a94f6/soohwan.png 1080w,\n/static/a9e6b445142b247ee4cfa66155398bb2/7cf1f/soohwan.png 1148w","sizes":"100vw"},"sources":[{"srcSet":"/static/a9e6b445142b247ee4cfa66155398bb2/38420/soohwan.webp 750w,\n/static/a9e6b445142b247ee4cfa66155398bb2/7470d/soohwan.webp 1080w,\n/static/a9e6b445142b247ee4cfa66155398bb2/b5ef6/soohwan.webp 1148w","type":"image/webp","sizes":"100vw"}]},"width":1,"height":0.6829268292682927}}}}]},"fields":{"readingTime":{"text":"5 min read"},"layout":"","slug":"/cs-basic/"}},"next":{"excerpt":"…","frontmatter":{"title":"광주소프트웨어마이스터고등학교 학생들 튜닙 방문","tags":["record"],"date":"2022-01-11T10:00:00.000Z","draft":false,"excerpt":null,"image":{"childImageSharp":{"gatsbyImageData":{"layout":"fullWidth","placeholder":{"fallback":"data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAABQAAAAMCAYAAABiDJ37AAAACXBIWXMAAAsTAAALEwEAmpwYAAADV0lEQVQozwXB+1MSBgDAcf4ImznAO08ElSQeSaWmQiL4mKIlPkBeXoqiGZgkig90KiJb4pDh47THmrvyct3p1g+V7TaX2utqt6u71e1uXX/Hd5+PoLjKT1PHKLbucazeSSouDDHx/U/8+d8HXv/7jpWfd+m5tsDz9294/vkjR58+EIzdIJK4zdE/f/Hy00c2H+/R6plh//1bBOdMPhQaB5VFdranBhho7iYVHGInMY3FMoLTPsbt6Wlmg1E6e2N0XP4WW1cEu2eW+GSMK75ZPKE43pEFlnZ2EZjMAygUNpwGJ2/Xx3k4F2R/KcR+coxui5/JvhEONyLcjYSZ8IXx9X/NQCBCeDTC/WSMxdk5xuaXCMVS/PLsNwSV9VdRKq3Yde08jQ6ycaWX3x8EuP8kyaXNH0jF47y6t8TrnTU2V5dJJFIEgzMsRud5uH6dGwsxoksrBGdTPPv7JQJjwyAqlRXz2TZWer180z9C8qafy49u4rq+RGI4xHZsile7t5gLTDEf/Y6e7hDD/lFWx8OkojHW7twiFEmx9+YQQVXjINpTdso1behPWzEb3KhLrNTZfCT9wyz6rrIamWHU3c92IkKgb5SQb4yN+AIed4CKyn4m5peZii3z6MUfCGqaApzWtFOqbqbibDtp6dVkHKsiW1iDTN6CtqiT0vN9aKX1hIfGcDf20GDoxGv1I1e5OC5xoKsbJhxN8uvhUwSmpmuolVZys74iJ7uBPFkz4gwT8jwLIlE1SpUNdbGHUzIzpSVuCgraEIsbUCkdnNR2kX3Chfa8j3B8jScHewhsziFycsxki6uQSRvJz2tGKjIiFNYgTDegKfZQWNZHoaweicyCUuXgy4xaCks8qApdZEpaKDP5iK7d4e7sNIIJey9+XR1urYlc2QUkUgsnsoxkCo18cUxHvsbFSfkF1LJahFIrnRc96LWtFOl7KD1jQ5Jrxeed4MXjH9lZiSFY7XKx5ahnprqKrKw6JJJGzuRWoyswIjpeTr6ijbQ0HeJ0HfmKVrqaOqk1Oak0dWE2OpEqXNicYxw8WObdwRaCe816thrLSNUbEIlrKM+rxqoyopfoyc/Uo5Y3IRcZqDhno7XFy8VKB9WlVkxlDi61dKLUOOhwD3G0HuLz/gL/Azr0GHEpMjtZAAAAAElFTkSuQmCC"},"images":{"fallback":{"src":"/static/0236317ab6d0ade50e943efd96ed64ee/e38af/soma.png","srcSet":"/static/0236317ab6d0ade50e943efd96ed64ee/e9604/soma.png 750w,\n/static/0236317ab6d0ade50e943efd96ed64ee/e38af/soma.png 847w","sizes":"100vw"},"sources":[{"srcSet":"/static/0236317ab6d0ade50e943efd96ed64ee/64486/soma.webp 750w,\n/static/0236317ab6d0ade50e943efd96ed64ee/ed812/soma.webp 847w","type":"image/webp","sizes":"100vw"}]},"width":1,"height":0.6068476977567887}}},"author":[{"id":"Soohwan Kim","bio":"Co-founder/A.I. engineer at TUNiB.","avatar":{"childImageSharp":{"gatsbyImageData":{"layout":"fullWidth","placeholder":{"fallback":"data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAABQAAAAOCAYAAAAvxDzwAAAACXBIWXMAABYlAAAWJQFJUiTwAAADjElEQVQ4y23Oy48TdQDA8TExEaTttvSBfdHddru7bWc6bWd+8+i0u23n0SdlBRQXZGHDgiiLDwgqXjCIJEaC8cLBmHgwUU9EYzRqQuLJi/4NJB6NF+8evgbOHr7XT76SM5ix7s4QnRHnnm9yZzvBTIswN8JcP5bC67ZoWi7CdtFsn5bloZo+dSNAMYbIIqCmD6mJIVXdR3J6I7r9IQ3T59pZlW+uxzndCbPdC/HZXoq3TikowsfqBOjOmFZ7SrM9p2kfRbXn1O0jKNbsSbJ5BMnu9Gl3+qiiz4OPSvz0QRLHFGwOZH6+neLHT5YRbRerM0J0JrTas/8FZXNKzZgg2es+ZtvDdbs8+iHJl+9lWVP7OG2br26k+PvXJCfmFqoYIpwhTXtMwxpTN0coxhjFmCKbE2rGmKoYPQY9qi2fyzsq//4e5sNXi5TlLqbd5t6lPH/9kuDTG2usqgGi7dO0hzSsIXUzQDaGKGKMLEZUxZCKCJB02+PUpMH9vQwP7ybYnSxyfNrjwumA3dEiD94v8cfnK7xzWsbpujQtH9X0qBs+iuEjC5+a7lPVPSqai9SyelyYFbjkh5hqC3TkKOutLON2nkYpgtuMcT6IszdPslo8SLlcpmUH1A0XRQyQhUtNuFQ1l4o2QFI1h3OTVXbcg+grIfSVBRqlEGopgrYSRi0e4KiIse1mScSeopA/iLADmoZL3Rgg631q+oCq1qeq95FOzhQefpzn7eMpBmqcoBVj04pzwkky0eNMRYIdL8F3twusLe2nslrE6g5pGX1U8/FhD1nvUW1tUJK7SH9+n+DR1zF2vQSvH0lz88wiV45V2J1WuHqsxLXNAnuzNJdfWmK5/BylUgFhb6DZAxR9g7rpIos+Wttja2uE9M9vYb69k+DqfJErWzLOuoVqdKlpDo4jODms4zlFckuHObx4iHwuRi6fYqmYY201x/LqMrnFDNl8gRvvukhNdT9394rcOlNFMxrUhYFmW9imTEsp0mhWKC2nWSokyWSiFA7HSKcXiEb34fayyLVniUQk8rmn2drKIqlqiNcuVrh2ymQS1Nh8sc/GoMEbl7u8eb5D1yqTzkRJJsOkkiGymQVShyLE4yHWKnEq1RjpTIhmI8r2y3mkyloI38uha1n6bpVXrkw5+4LD/S/2uHnrIopaJhZ9hmQqwqHkAXJP8BDhyD46ZoWdMxOGcx/PNfECk/8AbxXdRjRliPoAAAAASUVORK5CYII="},"images":{"fallback":{"src":"/static/a9e6b445142b247ee4cfa66155398bb2/7cf1f/soohwan.png","srcSet":"/static/a9e6b445142b247ee4cfa66155398bb2/34f77/soohwan.png 750w,\n/static/a9e6b445142b247ee4cfa66155398bb2/a94f6/soohwan.png 1080w,\n/static/a9e6b445142b247ee4cfa66155398bb2/7cf1f/soohwan.png 1148w","sizes":"100vw"},"sources":[{"srcSet":"/static/a9e6b445142b247ee4cfa66155398bb2/38420/soohwan.webp 750w,\n/static/a9e6b445142b247ee4cfa66155398bb2/7470d/soohwan.webp 1080w,\n/static/a9e6b445142b247ee4cfa66155398bb2/b5ef6/soohwan.webp 1148w","type":"image/webp","sizes":"100vw"}]},"width":1,"height":0.6829268292682927}}}}]},"fields":{"readingTime":{"text":"2 min read"},"layout":"","slug":"/soma/"}},"primaryTag":"nlp"}},
    "staticQueryHashes": ["3170763342","3229353822"]}