2023년 회고

2023년의 회고

(부제1 : 회고 이렇게 쓰면 되나요? 부제2 : 1년짜리 일기)

2022년 회고는 틀에 맞춰 작성했었는데, 이번에는 그냥 기억에 남는 것들만 마음대로 작성해보려고 한다.

---

1. 응애 나 아기 4학년

1-1) PyTorch 옹알이

• 23년 초 겨울방학에 김성훈 교수님의 PyTorch 강의를 들으며, 처음으로 PyTorch를 익혔다.
• 그 전까진 Tensorflow만 사용했었는데, 왜 연구자들이 PyTorch를 선호하는지 느낄 수 있었다.
• (이제는 Tensorflow보다 PyTorch를 더 익숙해진 몸이 되어버렸는데, 최근에는 PyTorch Lightning을 배워야겠다는 생각이 든다.)

1-2) NLP 논문 리뷰

• 마찬가지로 23년 초 겨울방학에는 교내 연구실에서 자연어처리 관련 기초 논문들을 읽고, 그것을 PyTorch 코드로 구현하는 공부를 했다.
• 이전까지는 딥러닝과 관련된 논문을 읽어본 경험이 적었고, 필요할 때마다 코드만 찾아보는데 급급했었다.
• 하지만, 이 경험을 통해 RNN과 LSTM, Transformer 등의 기초적인 개념을 이해하고, 구조를 완전히 머릿속에 박아놓았다.
• (이 과정에서 번역기와 많은 블로그/유튜브의 도움을 받았지만, 회고를 작성하는 지금, 이제는 보행기 없이 걸음마를 시작해야겠다는 생각이 든다.)

개인적으로 뿌듯하니 첨부

https://github.com/oneonlee/deep-learning-models/

GitHub - oneonlee/deep-learning-models: Implementing Deep Learning Models by Myself

 

2. 소소하지만 확실한 성장

2-1) 학회 발표

• 22년에 작성하고 억셉된 논문을, 23년 5월, 미국 시카고에 가서 발표했다.
• NLP 관련 메이저 학회가 아니라 간호정보학 관련 학회라, 부담감을 떨쳐내려고 해도, 낯선 사람들 앞에서 모국어가 아닌 영어로 발표하는 것은 쉽지 않은 일이었다.
  • 밢표를 준비하면서 '이대로 그냥 튈까?'하는 생각도 들었다 ㅋㅋㅋ
  • 출국 일주일 전에는 발표 생각만 하면 심장이 쿵쾅쿵쾅거렸을 정도였다.
• 게다가 하필이면 중간고사 공부, 연구과제 미팅, 대외활동 지원, 각종 수업과제, 예비군, 시험지 채점 등 오만가지 일이 겹쳐서, 발표 준비에 집중할 수 있는 시간이 많지 않았다.
• 그래도 이왕하는 발표, 제대로 준비해보자 하는 마인드로, 최선을 다해 준비했다.
  • 교내 원어민 교수님께 일대일 피드백을 받을 수 있는 English Clinic 프로그램을 적극 활용했다.
    • 해당 프로그램을 2번 이용했다.
    • 원어민 교수님 앞에서 하는 첫 발표 연습은 내가 생각해도 엉망이었다.
    • 이를 갈고 준비한 두 번째 발표 연습은 꽤 괜찮았고 (우환 청심원을 마시고 갔는데 플라시보인지 모르겠지만 효과가 좋았다.), 교수님께서도 칭찬해주셔서 자신감이 붙었다.
• 미국은 5박 7일의 일정이었고, 학회는 3일 동안 진행되었다.
  • 그래도 긍지의 한국인 답게, 주요 관광지는 마스터했다 ㅎㅎ하필 발표는 마지막 날이었던 터라, 처음 가본 미국을 즐기지 못한게 아쉬웠다.

아뇨! 관심 있는데요!! 많은데요!!!

 

• 시간은 흘러흘러 발표날, 이제는 가만히 있어도 심박수가 131을 찍었다.

발표 세션 시작 32분 전

 

• 발표장에 들어가서 교수님의 덕담을 들었는데 순간, 운전면허 장내기능시험을 통과한 후, 첫 도로주행을 하러 차에 탔을 때, 갑자기 운전석에 앉으라고 하는 감독관님이 생각났다.
• 세션 Chair와 간단한 대화를 나누고, 내 이름 읽는 법을 알려줬다. (이름이 너무 어려워서 ㅋㅋㅋ)
• 발표는 어떻게 했는지 기억도 안났는데, 정신차려보니 내 차례가 끝나있었다.
  • 발표자로써 질문이 없는 것이 자존심 상하는 일이지만, 그때의 나는 "제발 아무도 질문하지 마라"라는 생각만 머릿 속에서 수백만 번을 외치고 있었다.
  • 근데 어느 한 분이 BERT의 sequence length에 대해 질문을 하셔서, 다행히 스무스하게 넘어갈 수 있었다.
    • 발표가 끝나고, 그 분께서 LinkedIn 일촌 신청을 걸어주셔서, '학회가서 네트워킹 한다는게 이런거구나' 느낄 수 있었다.

2-2) 엘리스 AI Edu 해커톤

• 2학기 개강 2일 전 주말, 엘리스에서 주최한 AI Edu 해커톤에 참가했다.
• 해커톤 예선 테스트에서 상위권에 들면 레오폴드 키보드를 준다길래, 그냥 레오폴드 키보드가 너무 갖고 싶어 참가했다가, 본선까지 진출하게 되었다.
  • 본선을 갈까 말까 고민하다가, 본선 참가자에게는 애플 매직 트랙패드를 준다길래, 그것도 너무 갖고 싶어서
  • 가 아니라, 대학 생활 중 해커톤을 경험해본 적이 없어서, 한 번 해보고 싶다는 생각이 들어서 본선에 참가했다.
• 본선은 2일 동안 진행되었고, 나는 AI Engineer로 참가했다.
  • 팀은 PM 1명, 프론트엔드 1명, 백엔드 2명, AI Engineer 1명으로 구성되었다.
  • 해커톤 특성 상, 한정된 시간 내에 언어 모델을 학습시키기엔 무리가 있기에, GPT API를 사용했고, 그것을 보완할 수 있는 기술이 차별점이 될 것이라 생각했다.
  • 잡플래닛 현직 개발자 멘토님께 조언을 구했고, 임베딩 기반 서치 기법을 사용해보라고 추천해주셨지만, 시간이 부족해 구현하지 못했다.
    • (지금 생각해보니, 임베딩 기반 서치 기법이 RAG를 말씀하셨던 것 같다.)
  • 우여곡절 끝에 팀원들과 함께 토론 챗봇을 만들었고, 기획/기능/디자인 적으로 완벽했기에 수상할 수 있을 것이라 생각했다.
  • 하지만 아쉽게도 수상은 하지 못했다. 수상은 개인적으로 생각했을 때, 의외의 팀들이 수상했었는데, 기술보다는 기획의 비중이 매우 높았던 것 같아 아쉬웠다.
    • 그래도, 해커톤을 경험해본 것에 의의를 두고, 2일 동안 밤새서 열심히 했던 팀원들에게 감사의 말씀을 전한다.

(상 못 타서 아쉬우니까 링크 첨부)

 

2-3) HuggingFace Transformers 오픈 소스 컨트리뷰션

• 요즘 자연어처리와 뗄레야 뗄 수 없는 transformers 라이브러리를 가지고, 이것저것 실험하다가 코드를 까보는 단계까지 이르렀는데, 그 중 잘못된 부분을 발견해서, 수정 후 Pull Request를 보내고 Merged 되었다.
• 사실 "잘못됐다"라기 보단, 오타에 가까웠는데, 평소 꼼꼼한 성격 덕에 바로 캐치했고, 알잘딱으로 정리해서 PR을 보냈다.

 

Unify warning styles for better readability by oneonlee · Pull Request #27184 · huggingface/transformers

• 평소 오픈소스 생태계에 대해 긍정적인 시선을 갖고 있던터라, '언젠가는 나도 오픈소스 컨트리뷰터가 될테야!'하는 마음을 갖고 있었지만, 그게 "大 HuggingFace"의, 그것도 "大大 Transformers"가 될 줄은 꿈에도 몰랐다.
• 물론, 허접한 것이긴 하지만, transformers는 인기있는 라이브러리이기에 사소한 것들은 진작에 수정되었을 것이기에 사소하지 않은 것이라고 믿고 있다. ㅋㅋ
  • 사소하다고 하더라도, 코드를 직접 까보면서 불편함을 느껴 수정을 제안했고, 그것이 받아들여짐으로써, 누군가의 불편을 조금이나마 해소했다는 것에 의의가 있지 않을까하고, 스스로 굉장히 만족하고 있는 중이다. ㅎㅅㅎ
• 당시, BERT를 pre-training 시키느라 6시간동안 삽질하던 중이었는데, 보낸 PR이 Merged 되었을 때 굉장히 짜릿했고, '이래서 오픈소스 컨트리뷰션 하나보다' 속으로 생각했다.
• 그리고 너무 뿌듯해서 몇몇 주변인들에게도 자랑했다.

뿌듯하니까 자랑

3. 학교 생활 (feat. 졸업)

3-1) "인공지능 응용" 과목 수강

• "인공지능 응용" 과목은 CS231n: Deep Learning for Computer Vision을 기반으로 진행되었고, 수업 후반부에는 GPT, CLIP, BERT 등 교과서에선 접하기 힘든 비교적 최신 기술들에 대해 배웠다.
• 수업을 들으면서, 기술적으로 구현해본 것들을 이론적/개념적으로 정리할 수 있었다.
• 이전까지의 들었던 다른 수업들은 지루해서 손이 잘 안 갔었는데, 확실히 관심있는 분야의 수업을 들으니, 수업을 듣는 것 자체가 즐거웠다.
• 파격적이게도, 중간고사는 논문 타입의 보고서로 대체되었는데, 실험을 설계하고 보고서를 작성했던 경험이 매우 유익했다.

(뿌듯하니까 링크 첨부)

 

3-2) "호신술" & "피트니스 트레이닝" 과목 수강

• 건강 챙기겠다는 마인드로 1학점짜리 체육 과목을 1,2학기에 각각 수강했다.
• "호신술"은 전 테권도 국가대표였던 교수님과 발차기를 배웠는데, 한 주간의 스트레스를 정말 이 수업으로 풀었던 것 같다.
  • 정보) 전 태권도 국대 출신이 발차기 살살해도 맞으면 얼얼하다.
• "피트니스 트레이닝"은 근력 운동을 배우는 수업이었는데, 팀원들과 서로 응원하면서 운동하는 것이 즐거웠다.

 

3-3) 졸업 프로젝트

• 23년도 2학기에 "정보통신종합설계"를 수강했다.
• 여름 방학 때, 교내 연구실에서 미리 키워드 추출 모델을 설계하여 실험한 것이 있었는데, 그것을 업그레이드(?)해서 졸업 프로젝트를 진행했다.
• 막판에는 '이대로 가다가 F 받고 졸업 못하면 어떡하지' 했는데 여차저차 잘 마무리하고, 무사히 졸업할 수 있었다.

 

4. 밀린 여행

4-1) 유럽

• 죽기 전에 내가 유럽을 가볼 수 있을까? 라는 생각을 하며, 23년 6월, 유럽 여행을 떠났다.
• 21박 23일 동안, 독일 (프랑크푸르트) ➔ 벨기에 (브뤼셀) ➔ 프랑스 (파리, 스트라스부르&콜마르) ➔ 스위스 (베른, 인터라켄&융프라우&그린델발트&체르마트) ➔ 독일 (뮌헨) ➔ 오스트리아 (잘츠부르크, 빈) ➔ 헝가리 (부다페스트) ➔ 체코 (프라하) ➔ 독일 (프랑크푸르트) 코스로 여행했다.
• 유럽의 역사와 문화를 최대한 받아들이며 여행했고, 그 순간만큼은 각박한 세상에서 벗어나 아무 생각 없이 여유를 즐겼던 것 같아, 가끔은 그때의 기분을 떠올리곤 한다.
• 가끔 한인민박에 묵었던 터라, 한국인분들도 여럿 만났는데, 퇴사하고 오신 분, 이직하고 오신 분, 심지어 휴가내고 오신 분도 계신걸 보고서, 나도 언젠가는 다시 유럽으로 올 수 있겠다는 생각이 들었다.
  • (지금 생각해보니 유럽에서 열리는 EACL 같은 학회를 목표로 삼는 것도 좋겠다.)

 

4-2) 강릉

• 국내 여행지 중에서 가장 좋아하는 곳이 강릉이라, 23년이 끝나가는 겨울, 혼자 강릉에 갔다.
• 가서 궁상 좀 떨어보자는 마인드로, 혼자 바다를 걷고, 오션뷰 카페에서 혼자 커피 마시면서 책을 읽었다.
• 일의 격이라는 책을 읽었는데, 일을 대하는 태도와 마음가짐에 대해 생각해볼 수 있었다.

 

5. 불확실한 미래와 끊임없는 불안감

5-1) 탈락도 락이다.

• 5월
  • 카카오브레인 / Pathfinder - 서비스 백엔드 개발 포지션 / 서류 합격, 코딩테스트 불합격
• 9월
  • 고려대학교 대학원 / 모 연구실 / 서류 합격, 1차 면접 불합격
  • 당근 / Software Engineer, Machine Learning - 공통 포지션 / 서류 불합격
  • SKT / 2023 Junior Talent - 개발 직군 / 코딩테스트 불합격
• 10월
  • SK주식회사 C&C / Data Analytics/Engineering / 서류 불합격
• 11월
  • 네이버 Search CIC / Ranking 실험 및 연구 체험형 인턴십 / 서류 불합격
• 12월
  • 카이스트 전산학부 대학원 / 서류 합격, 최종 면접 불합격

 

5-2) 아니 근데 내가 봐도 신기한게, 이건 어떻게 술술 풀리지?

• 8월
  • KT / AI 계약학과 - Large AI 기술개발 / 서류 합격, 코딩테스트 합격
• 9월
  • KT / AI 계약학과 - Large AI 기술개발 / 실무면접, 임원면접 합격
• 10월
  • 포스텍 인공지능대학원 / 서류 합격, 2단계 시험 합격 (이건 진짜 합격할 줄 몰랐다.), 지도교수 컨택, 최종 합격

 

이번 챕터의 제목을 '불확실한 미래'로 정한 이유가 있다. 내가 지원했던 대부분의 곳은 불합격이었고, 불합격이 누적되면서 '내가 잘 해낼 수 있을까'하는 불안감이 더 커졌다.

회사들 중 KT에서만 유일하게 서류에 합격했는데, KT 자기소개서에 쏟은 시간이 많아서 그런 것 같다.

내 인생의 회사 면접은 알바 면접을 빼면 KT 면접이 최초였는데, 그때의 나는 날 것 그자체였다. 대학원을 준비하느라 면접은 따로 준비하지 않았었는데, 그 덕에 나를 더 솔직하게 표현할 수 있었던 것 같고, 면접관님들도 그런 나를 좋아해주셨던 것 같다.

 

이번 챕터의 제목을 '끊임없는 불안감'로 정한 이유. 사람은 끊임없이 불안해 하는 것 같다. 나는 지금 포스텍 인공지능대학원에 원하는 연구실에 합격하여, 미리 연구실에 다니고 있는데, 대단하신 주변 선배분들을 보면서 '내가 저 분들처럼 될 수 있을까?'하는 생각에 불안감이 조금은 든다.

 

하지만, 이 불안감이 나를 더 성장시킬 것이라는 생각에, 불안감을 느끼는 것 자체를 긍정적으로 생각하고 있다. "갑자기 분위기 성찰"인데, 원래 회고란 이런 맛 아니겠는가.

---

우여곡절 여차저차 어찌됐던 2023년 잘 보낸 것 같다. 2024년 회고에는 더 성장한 나를 기대해본다.