분류 전체보기65 Langcon 2023 후기 LangCon(랭콘) 2023? LangCon은 자연어처리(NLP)에 관한 이야기를 나누는 모임이다. 2023년 2월 18일 마이크로소프트 광화문 오피스에서 오프라인으로 진행되었다. 랭콘에 대해서는 사실 이번에 처음 알게 되었는데, 사실 지금도 자세히는 모르고 자연어 처리와 관련된 모임이고 2019년부터 시작했다고 알고있다. 주제 이번 랭콘에서는 "최근 거대 모델(LLM)을 대상으로 한 자연어처리 동향 이해, 생성 모델링 및 서비스의 이해"를 주제로 발표를 하였다. 아무래도 최근의 자연어처리는 모델 사이즈가 커질수록 놀랄만한 성능을 보여주고 있는 상황이고, 최근 아주 핫한 ChatGPT덕에 생성 모델링과 서비스라는 주제에 대해 많은 사람들이 관심을 가지고 있어서 좋은 주제라고 생각했다. 참여 계기 대형 .. 2023. 2. 22. [잡지식] 문자열 연결에 "+"를 사용하지 마세요! 파이썬에서 여러 문자열을 연결할 때 "+"로 문자를 합치는 경우가 많다. 이렇게 아주 간단하게 두 문자열을 합칠 수 있고, s1 = "hello" s2 = "soypablo" new_string = s1 + s2 #new_string = "hello soypablo" 여러 문자열의 경우에는 이렇게 연결할 수 있을것이다. string_list = ["hello", "my", "name", "is", "pablo"] join_sentence = "" for s in string_list: join_sentence += s print(join_setence) #"hello my name is pablo" 그러나 이러한 방식은 메모리 비효율 연산을 일으킨다. 왜냐하면 문자열은 불변인 객체이기 때문에 문자열을 수.. 2023. 2. 19. Triton:오픈소스 GPU프로그래밍 언어 트리톤은 파이썬과 유사한 프로그래밍 언어 및 컴파일러입니다. 트리톤의 목표 최신 GPU 하드웨어의 성능을 최대로 유지하는 커스텀 DNN(Deep Neural Network) 계산 커널 코드를 작성할 수 있는 프로그래밍 환경을 제공하는 것 트리톤이 만들어진 이유 딥러닝의 성공 딥러닝은 자연어 처리, 컴퓨터 비전, 계산 신경과학 등 다양한 분야에서 성공을 거두었습니다. 많은 계산량을 요구하는 딥러닝 모델 하지만 딥러닝은 계층적 구조이고, 많은 파라미터를 가지고 있어 계산량이 아주 많습니다. 이러한 딥러닝모델 계산은 멀티 코어와 멀티 코어 프로세서에 적합한 고도로 병렬화가 가능한 작업이며, GPU로 구현하는 것이 효율적인 방법으로 대두되었습니다. 하지만 GPU 아키텍처가 고도화 되면서 최적화가 잘되지 않는 문.. 2023. 2. 17. 파이토치2.0 번역[수정중] 개요 파이토치의 차세대 2시리즈 릴리스를 향한 첫 걸음인 파이토치 2.0을 소개합니다. 지난 몇 년 동안 파이토치는 파이토치 1.0부터 최신 1.13까지 혁신과 반복을 거듭해왔으며, 리눅스 재단의 일부인 새로 설립된 파이토치 재단으로 이전했습니다. 파이토치의 가장 큰 강점은 놀라운 커뮤니티 외에도 최고 수준의 파이썬 통합, 명령형 스타일, API 및 옵션의 단순성을 계속 유지한다는 것입니다. PyTorch 2.0은 동일한 열성적인 모드 개발 및 사용자 경험을 제공하는 동시에, 내부적으로 컴파일러 수준에서 PyTorch가 작동하는 방식을 근본적으로 변경하고 강화했습니다. 더 빠른 성능과 동적 모양 및 분산 지원을 제공할 수 있게 되었습니다. 아래에서 파이토치 2.0이 무엇인지, 어디로 나아가고 있는지, 그.. 2023. 2. 13. 이전 1 ··· 4 5 6 7 8 9 10 ··· 17 다음
