본문 바로가기
  • Maker's VAP
반응형

전체 글57

[LLM] Attention Is All You Need 자연어 처리(NLP) 분야에서 기술발전에 로켓을 달아준 혁신적인 모델 Transformer에 대한 내용이 담긴 "Attention Is All You Need" 논문은 2017년에 Google 연구팀이 발표하였으며 대형 언어 모델(LLM)의 기초가 되는 아키텍처이다.트랜스포머 모델은 특히 멀티헤드 어텐션(Multi-head Attention) 메커니즘을 사용하여 인풋 시퀀스의 요소들 간의 긴 종속성을 효과적으로 처리할 수 있는데 RNN이나 LSTM과 같은 이전 모델들의 순환 신경망보다 더 효율적이고 병렬 처리가 가능해짐으로써 성능이 훨씬 좋다는 장점이 있다.  논문 리뷰 작성 업데이트 예정!    📝 논문  따라서, 이제 없어서는 안 될 ChatGPT나 Perplexity, Claude와 같은 다양한 .. 2024. 11. 21.
[논문] 딥러닝 SOTA 모델 논문 구현 아카이브에 대한 인사이트 - Papers with Code AI에 대해 알아갈수록 망망대해에 표류하는 작은 존재 아니, 거품 한 조각에 불가하다는 느낌이다.아무리 헤엄쳐도 끝이 없을 것 같은 느낌🌊🌊🏊🏻‍♀️🌊🌊얼마 전까지 짧은 기간이었지만 직접 실무를 접해보았는데 국내 기업 대부분이 해외의 오픈소스를 사용할 수밖에 없는 현실이 안타까웠다. 하지만 기술 발전을 위해 노력하기에는 모든 조건들이 한정적이고 어렵고 딥하게 파고들 시간이 부족하다. 이미 경쟁하기 어려울 만큼...그래도 천재적인 국내 엔지니어분들도 많기 때문에 희망을 갖고 나 또한 초심자의 마음가짐으로 다짐하여 깊이 빠져보려고 한다.   그 유명한 Transformer, YOLO 뿐만 아니라 LLM, RAG, SAM과 Diffusion Policy 등트렌디한 SOTA 모델에 대한 소개, 해당 .. 2024. 11. 20.
[DL] 딥러닝 파이토치 교과서 리뷰 Coming soon :D 🔰 딥러닝 파이토치 교과서 / 길벗 2022. 3. 29.
[Web] SSR(Server Side Rendering)과 CSR(Client Side Rendering) ✔ SSR과 CSR + TTV(Time To View), TTI(Time To Interact), SSG(Static Site Generation)개념 2022. 3. 12.
[AWS] AWS에서 서버 구축 하기 대표적인 Public Cloud Service로는 AWS(Amazon Web Services), GCP(Google Cloud Platform), Azure(Microsoft Azure) 등이 있으며 이 중 실무에서 꾸준히 선호도가 높은 클라우드 서비스는 AWS이다. 실제로 현재 재직 중인 회사에서도 AWS를 사용 중이다. 그럼 인프런 무료 강의를 통해 간단히 서버를 구축해보고 AWS에 대해 알아보자! 🛴 AWS 서버 구축 실습 [무료] 나도 AWS에 서버 구축해보자! - 인프런 | 강의 localhost 접속은 그만! 나도 AWS에 배포 한 번 해보자!, - 강의 소개 | 인프런... www.inflearn.com 2022. 3. 9.
[MSA] MSA란? 장단점은 무엇일까? 🏭 MSA(Micro Service Architecture) 개념과 장단점 2022. 3. 9.
[기술 스택] 기업별 스택을 알아보자! 네이버, 카카오, 당근마켓, 우아한 형제들 등 누구나 아는 기업에서는 어떤 기술을 사용하고 있을까?궁금할 때 한 번에 확인 가능한 웹 사이트가 있다. 👉🏻 코드너리 스타트업들의 기술 스택과 기술 블로그를 한눈에 살펴보세요 | 코드너리네이버, 카카오, 토스, 당근마켓과 같이 요즘 핫한 스타트업은 어떤 기술 스택을 사용하고 있을까요? 코드너리에서 국내 100개가 넘는 스타트업의 기술 정보를 확인하세요.www.codenary.co.kr 이외에도 스택 인기도를 그래프로 확인할 수 있고 컨퍼런스 일정도 캘린더로 볼 수 있어 계획 세울 때 편리하게 도움이 많이 될 것 같다. 2022. 2. 19.
[pythontutor] Python, Java, C, C++, JavaScript, Ruby 코드 시각화 내가 만든 코드의 변수가 어떻게 할당되는지 보면서 이해하고 싶다면? pythontutor로 🏹 1. 중앙에 링크 걸린 Start Visualizing your code now 클릭 2. Live Programming Mode 버튼을 클릭! 3. Write code in 셀렉트 박스 내에서 사용하고자 하는 언어 선택 > 바로 하단 박스에서 시각화할 코드 작성 > 우측 시각화 확인 하면 끝이지만 할당된 값을 더욱 디테일하게 시각화하려면? 4. 해당 페이지 하단에 가운데 셀렉트박스에서 render all objects on the heap (Python)을 선택 ;D 5. 아까 보이지않던 Objects 에 어떠한 자료형으로 값이 할당되었는지 확인 가능하다😉 2021. 12. 16.
[LeetCode] 알고리즘 문제 & 풀이 사이트 미국 학생들이 많이 사용하고 있는 알고리즘 문제풀이 사이트 LeetCode(리트코드)는 실제로 모의 인터뷰가 가능해 해외취업 시 도움이 된다고 하니 알아두면 좋다! 🎉 LeetCode(리트코드) LeetCode - The World's Leading Online Programming Learning Platform Level up your coding skills and quickly land a job. This is the best place to expand your knowledge and get prepared for your next interview. leetcode.com 백준 알고리즘이나 프로그래머스처럼 여러 언어로 문제를 풀 수 있고 Discuss 탭을 통해 다른 사람들은 어떻게 풀었는.. 2021. 10. 11.
반응형