اپیوئید

در تلاش برای رهایی از این گرداب

تجربه‌ی من از شرکت تو دو تا کنفرانس مهم

۲۶ آذر ۹۸

تو سه ماه اخیر، من دو تا کنفرانس مهم تو حوزه‌ی هوش مصنوعی شرکت کردم که خیلی توش نکات جالبی رو تجربه کردم. منم که اگه بشناسید، اهل به اشتراک گذاشتن تجربه‌های جدیدم. لذا تصمیم گرفتم این پست رو بنویسم تا زودتر بیخیال نشدم. راجع به تجربه‌ی هیچ‌هایکم از غرب به شرق کانادا قرار بود پست بنویسم و یه draftی هم نوشتم ولی باز تنبلی کردم. گفتم سریع این پست‌ه رو بنویسم تا سر اینم تنبلی نکردم. این دو تا کنفرانسی که من رفتم یکی‌شون EMNLP 2019 بود و یکی‌شون NeurIPS 2019. اولی تو کشور هنگ‌کنگ برگزار میشد و دومی داخل شهر ونکوور تو کانادا. اول یه ذره راجع به کار خودم و بک‌گراند خودم بگم. موضوعی که من در چند ماه اخیر روش متمرکز بودم (یه ذره تخصصی ه ولی حالا همینطوری یه منشن می‌کنم)، بررسی و تحلیل attention mechanism تو مدل‌های sequence-to-sequence1 بوده. مثلا تو ترجمه‌ی ماشینی که مثلا یه شبکه‌ی عصبی داریم که داره یاد میگیره جملات انگلیسی به آلمانی رو ترجمه کنه، attention mechanism نقش خیلی خیلی مهمی رو داره و من کلا همیشه راجع به اینکه چطوری کار میکنه و چقدر به مغز انسان نزدیک ه و … کنجکاو بودم و خلاصه این چند ماه اخیر روی مکانیزم attention و مسائل مربوطه بهش کار می‌کردم.

یه ذره خاطره از EMNLP

آقا ما داخل یکی از کارگاه‌های EMNLP 2019 که تخصصا راجع به neural translation بود یه پیپری دادیم و نتیجتا من قرار شد برم EMNLP 2019 رو شرکت کنم که داخل هنگ‌کنگ برگزار می‌شد. کلا ما تو حوزه‌ی NLP سه تا کنفرانس تاپ داریم که تقریبا هم‌سطح‌ن و حداقل تو آزمایشگاه ما سعی میکنیم به جز این سه تا، جایی سابمیت نکنیم پیپرهامون رو. این کنفرانس‌ها ACL و NAACL و EMNLP هست اسمشون. اولا اینکه خیلی کلا سری اتفاقات جالب بود. من داخل سفر بودم (در واقع از غرب به شرق کانادا رو ۶۰۰۰ کیلومتر هیچ‌هایک کرده بودم و به مونترال رسیده بودم :)) ) و داخل موزه‌ی هنرهای معاصر مونترال بودم که اکسپت پیپر اومد و خب خیلی خیلی خوشحال شدم چون که سفرم با یه خبر خوب به پایان رسید. بعد که برگشتم ونکوور، افتادم دنبال کارای ویزای هنگ‌کنگ. حدودا ۱۷۰ تا کشور بتون ویزا می‌تونن برن هنگ‌کنگ که قطعا ایران جزشون نیست. خیلی خیلی هیجان داشتم که بتونم کنفرانس رو برم، به خاطر اینکه هم تو هنگ‌کنگ برگزار میشد و فرصت این رو داشتم که هنگ‌کنگ رو ببینم (من عاشقم سفر کردن و دیدن جاهای جدیدم) و هم اینکه اولین بار بود که یه کنفرانس شرکت می‌کردم و کلا خیلی دوست دارم آشنا بشم که ببینم چطوری ایناست. بعد افتادم دنبال کارای ویزا منتها کاشف به عمل اومد که یه یه ماهی طول می‌کشید ویزا بیاد و دقیقا میفتاد روی تاریخ شروع کنفرانس. خیلی خلاصه دقیقه ۹۰ ی بود چیزها. ینی مثلا اگه ویزام می‌خواست بیاد، اینطوری می‌شد که صبح روز پروازم ویزام میومد. خلاصه سریع زندگی رو تعطیل کردم و چند روز فقط دنبال مدارک و درخواست ویزای هنگ‌کنگ بودم. رفتم و درخواست دادم. بعد یه ماه، تقریبا یه روز قبل از پروازم، ویزام اومد و من بلیت پروازم رو نهایی کردم و هتل و اینا هم گرفتم چون که هزینه‌هاش رو دانشگاه میداد و خیالم راحت بود که پولش رو بعدا از دانشگاه می‌گیرم. ویزام که اومد، فرداش با هواپیما و با یکی از بچه‌های آزمایشگاه که با هم پیپر رو داده بودیم، رفتیم هنگ‌کنگ و حدود ۱۴ ساعت اینا تو راه بودیم. بعد که رسیدم هنگ‌کنگ رفتم هتل و بعدش اومدم بیرون که یه ذره تو شهر بگردم. رفتم مرکز شهر و تظاهرات بود. روزهای بعدش هم معمولا صبح تا عصر کنفرانس بودم و عصرها هم میرفتم هنگ‌کنگ رو می‌گشتم. یکی دو روز هم که برنامه‌ی کنفرانس رو دوست نداشتم، تعطیل کردم و کل روز رو تو هنگ‌کنگ گشتم.

یه ذره خاطره از NeurIPS

کنفرانس NeurIPS2 جزو دو تا کنفرانس اول ماشین لرنینگ هستش به همراه ICML و امسال تو ونکوور برگزار میشد. ۱۰۰۰۰ نفر توش شرکت کردن امسال!!!‌ اینقدر ثبت‌نامش زود پر میشه هر سال، که امسال سیستمشون رو lottery طور کردن که باید تو لاتاری ثبت‌نام کنی و اگه اسمت دربیاد میتونی پول بدی و ثبت‌نام کنی. من چون با استادم تعارف دارم، داشتم سعی میکردم داوطلب بشم برای کمک که هزینه‌ی ثبت‌نام برام waive شه(چون به لطف فاند‌های خوب کانادا، پول ثبت‌نام کنفرانس رو سختم بود بدم) ولی انتخابم نکردن برای داوطلب. بعد دیگه دل رو زدم به دریا، ثبت‌نام کردم تو سری آخر لاتاری و اسمم دراومد. به استادم گفتم حاجی پولش رو میدی شرکت کنم؟ گفت آره. اخه خدایی خوب هم داشتم کار میکردم براش و مشغول نوشتن یه پیپر خیلی خوب برای ACL بودیم. خلاصه قبول کرد و منم ثبت‌نام کردم. بعد هیچی دو روز اولش رو نبودم چون که درگیر سابمیت پیپر برای کنفرانس ACL بودم ولی بعدش رفتم. بعد نکته‌ای که وجود داشت این بود که من هر آدم خفنی تو زندگی‌م می‌شناختم، تقریبا تو این کنفرانس اومده بود. تازه کلی از دوستای قدیمی‌م رو که تو کشورهای مختلف هستن دیدن. مثلا مصطفی الان خیلی سال‌ه ندیدمش و گوگل آمستردام‌ه و بعد کلی سال دیدمش و کلی حرف زدیم راجع به زندگی و کار و گوگل و … سجاد هم که دوست undergradم بود و کل این مدت با هم کلی چرخیدیم و خندیدیم و چرت و پرت گفتیم. واقعا واقعا خوش گذشت بعد از مدت‌ها. قشنگ یه بخشی خوبی از خستگی پیپر ACL از تنم در شد چون این دو هفته‌ی آخر قبل ددلاین خیلی خیلی فشار آوردم به خودم و مثلا این اواخر ۴ شب پشت سر هم آزمایشگاه خوابیدم که پیپر برسم و واقعا حال روحی‌م اینا خوب نبود. خلاصه این چند روز همش NeurIPS بودم و صبح تا عصر کنفرانس بودم و بعدش با سجاد میرفتیم یه جا پیدا میکردیم شام مجانی بدن :))) و میرفتیم چتر میشدیم و خلاصه خیلی خوب بود.

کنفرانس چیه و چیا داره؟

یه فرقی که هوش مصنوعی با سایر حوزه‌ها مثل فیزیک می‌کنه اینه که در حال حاضر هوش مصنوعی با یه سرعت خیلی خیلی زیادی مشغول پیشرفت و هر روز کلی پیپر هوش مصنوعی و به طور خاص machine learning میاد روی arXiv3 و تو ممکنه رو یه چیزی کار کنی و ببینی هفته‌ی بعد یکی همون کار رو کرده گذاشته رو arxiv. بعد به خاطر همین من حس می‌کنم که واسه همین هستش که تو حوزه‌های هوش مصنوعی، پیپر داشتن تو کنفرانس‌ها ارزشمندتر از ژورنال هستش و همه بیشتر دارن تو کنفرانس‌ کاراشون رو می‌ذارن و خیلی من ندیدم تلاش کنند که کارهاشون رو بذارن تو ژورنال. یه دلیل اینکه کنفرانس زیاد برگزار میشه تو حوزه‌های ما اینه که آدما همدیگه رو ببینن و تعامل کنند و اطلاعات به اشتراک گذاشته بشه و خلاصه platformیه متناسب با سرعت رشد زیاد این حوزه. حالا یه ذره بگم که ساختار کنفرانس‌ها چیه و چیا دارن توشون (حداقل با توجه به مشاهده‌ی من):

این کنفرانس‌هایی که من شرکت کردم، چهار تا component داشتن:

۱. سخنرانی‌های اصل یا Keynote: کنفرانس‌ها یه سری key note دارن که معمولا خیلی خیلی مفیدن. اینطوریه که مثلا کنفرانس ممکنه کلا ۳ تا key note داشته باشه و اینطوریه که مثلا واسه یه key note، از یه آدم شناخته شده دعوت شده که بیاد راجع به یه موضوعی که حس میکنه مهمه صحبت کنه. این موضوع مهم، از سطح یک پیپر بیشتره و معمولا یه سطح گسترده‌تری داره. مثلا میتونه راجع به این باشه که بیان بگن در ۵ سال اخیر فلان فیلد چه مسیری رو طی کرده و به نظرشون مسیر آینده باید چه شکلی باشه. یا مثلا میتونن بیان راجع به یه چیزی که حس میکنند لازمه ریسرچرهای اون حوزه بهش توجه کنند صحبت کنه. یا مثلا طرف پیپرهای پشت سر هم داده و یه مساله‌ای رو تا حد خوبی حل کرده و حالا اومده خلاصه‌ی این چند تا پیپر و مسیری که طی کرده رو می‌گه. به هر حال می‌خوام بگم keynoteها موضوعات مهمی هستن و در سطح یه پیپر نیستن و big pictureتر نگاه می‌کنند به مسائل. مثلا یکی از key noteهای خیلی خیلی خوب EMNLP امسال رو آقای Cho ارائه داد که راجع به مسیری که تو حوزه‌ی ترجمه‌ی ماشینی با استفاده از شبکه‌ی عصبی طی شده تو این چند سال رو توضیح داد. شروع کرد قشنگ داستان تعریف کردن به صورت جذاب که آقا این ۲۰۱۴ رفت post doc شد پیش bengio و bengio یه سری موضوع بهش داد گفت انتخاب کن که می خوای رو کدوم کار کنی و مثلا یکی از موضوع‌ها sequence-to-sequenceها بود. بعد گفت فلان‌طور شد ما encocder-decoder رو دادیم. بعد دیدیم فلان مشکل رو داریم رفتیم پیپر gru رو دادیم. بعد دیدم فلان جا مشکل داره با bahdandanu پیپر attention رو دادیم. بعد گفت حالا بعدش transformer اومد. بعدشم گفت با transfer learning الان تا حد خوبی low resource language ها رو داریم هندل میکنیم و یه سری مسیر پیشنهاد داد برای آینده‌ی sequence-to-sequenceها. اینکه به چه سمتی باید حرکت کنیم و بیشتر رو چی انرژی بذاریم. خلاصه خیلی خیلی keynote خوبی بود.


یکی از keynote های خیلی خوب EMNLP 2019

۲. کنفرانس اصلی: کنفرانس‌ها یه تم و موضوع مشخصی دارن و فقط پیپرهای اون تم رو اکسپت میکنند. مثلا کنفرانس EMNLP فقط پیپرهایی که یه ربطی به NLP داشته باشن رو قبول میکنه و اینطوری نیست که هر پیپر machine learningی رو بتونی توش بفرستی. مثلا اگه فقط پیپر vision بفرستی خب اکسپت نمیشه. بعد تم‌های هر کنفرانس تقسیم میشه به یه سری sub theme که بهشون می‌گن track. مثلا machine translation یا question answering از ترک‌های امسال ACL بودن. بعد تو کنفرانس اصلی، برنامه‌ش اینطوریه که مثلا فلان ساعت تا فلان ساعت، یه سری پیپر از فلان track انتخاب شدن که بیان به صورت شفاهی کارشون رو ارائه بدن. سایر کارها معمولا به صورت پوستر در یک تایم جداگانه‌ای ارائه میشه که میری بالا سر پوستر طرف و طرف کارش رو به آدم‌ها توضیح میده. بهش میگن poster session. خلاصه پس کنفرانس اصلی یه سری ارائه‌ی oral داره و بقیه کارها به صورت poster session هستن و معمولا این oralهای trackهای مختلف به صورت موازی برگزار میشه. ینی در هر ساعت شما باید انتخاب کنی الان میخوای بری این track رو ببینی و گوش بدی یا اون یکی رو.

۳. کارگاه یا workshop: وورکشاپ‌ها معمولا یه تم خیلی خیلی خاص‌تری نسبت به کنفرانس دادن و برای همین تعداد خیلی کمتری پیپر براشون سابمیت میشه. مثلا یکی از وورکشاپ‌های امسال NeurIPS اسمش Graph Representation Learning بود که تمام پیپرهاش روی شبکه‌های عصبی برای دیتا گراف بودن. یا مثلا یکی دیگه از وورک‌شاپ‌ها برای روش‌های ماشین لرنینگ برای setها بودش. کارگاه‌ها معمولا موضوعاتشون خیلی ریزتر، تعداد سابمیژن پیپرها کمتره و معمولا اکسپت شدن توشون راحت‌تر از کنفرانس‌ اصلی هستش ولی این باعث نمیشه اکسپت شدن توشون در کل راحت باشه یا ارزششون کم باشه.

۳. آموزش‌ها یا tutorial: یه بخش دیگه‌ی از schedule کنفرانس‌ها اختصاص داره به tutorialها که میتونی توشون ثبت‌نام کنی. این tutorialهای میان یه موضوع خاصی رو به ریسرچرها یاد میدن. این موضوع چیزایی نیستش که لزوما بتونی یه سرچ تو اینترنت بکنی یاد بگیری. مثلا توش قرار نیست بیان tensorflow یاد بدن. موضوعاش متنوع میتونه باشه ولی معمولا میان یه چیز ریسرچی رو یاد میدن. مثلا یکی از tutorialهای امثال NeurIPS که خیلی دوست داشتم شرکت کنم ولی نشد، اسمش Bayesian Deep Learning بود که میومد کلا پیشرفت‌های چند سال اخیر جامعه‌ی ماشین لرنینگ برای آوردن bayesianity تو deep learning بودش. یا مثلا یکی از tutorialهای EMNLP راجع به اوردن graph neural netها تو NLP بودش. من کلا خیلی خیلی tutorialها رو دوست دارم. چون که چیزایی نیستن که تو اینترنت پیدا کنی و یه مقاله بخونی یا یه ویدیو ببینی یا یه کتاب بخونی حل شه. چکیده‌ی یه سری پیپره که خیلی ساختارمند به صورت خودآموز دراومده و میتونی با شرکت کردن توشون کلیییی به علمت اضافه کنی.

کنفرانس رفتن چه فایده‌ای داره؟

خب الان می‌خوام راجع به فایده‌های کنفرانس رفتن صحبت کنم.

۱. یادگیری: به واسطه‌ی شرکت کردن تو tutorialها شما میتونید کلی چیز جدید یاد بگیرید و تو ریسرچتون استفاده کنید. حتی خود وورکشاپ و کنفرانس‌ها درسته که پیپرهاشون تو اینترنت هست، ولی اینکه همه رو یه جا می‌بینید، میتونید خیلی سریع بفهمید چه کارهایی رو بعدا میخواین برید مطالعه کنید درحالیکه اگه کنفرانس رو شرکت نمیکردید شاید خیلی از پیپرها رو اون موقع دیگه نمیرفتید بخونید چون نمیدونستید که جالبن. خلاصه وقتی تو کنفرانس شرکت میکنید، اینکه تو جلسه‌ی poster session میرید راه میرید تو سالن تمام کارها رو در قالب poster میبینید، کلی ایده‌های ملت رو می‌بینید، بعدا ممکنه یه تکنیک/ایده از یه پیپر رو تو کار خودتون استفاده کنید. خود گوش دادن به keynoteهم خیلی می‌تونه کمکتون کنه حالا بسته به موضوعش.

۲. پیپرتون رو ارائه میدید: اگه شما تو کنفرانس/وورکشاپ پیپرتون اکسپت شده باشه، میتونید برید کارتون رو ارائه بدید. حالا بستگی داره بهتون بگه ارائه تون فقط posterه یا oral هم دارید. بعد وقتی کارتون رو ارائه میدید، یه حس خیلی خوبی نسبت به خودتون میگیرید. کلا حس خوبی داره وقتی میری یه کنفرانس خفن کارت رو ارائه میدی و آدم‌ها میان ازت سوال میپرسن. خیلی اوقات سوال‌های آدم یا تبادل نظرهایی که باهاشون داری بهت ایده‌های جدید میده که کارت رو پیش ببری.

۳. فرصت‌های شغلی: وقتی میرید یه کنفرانس خوب، معمولا یه سری شرکت معروف هم اومدن sponsor شدن و بهشون میز دادن و اونا اومدن و حضوری دنبال استخدام نیرو میگردن. حالا این میتونه internship باشه تا full time position. مثلا من دیدم گوگل یه لینک جدا برای درخواست employment برای شرکت کنندگان emnlp داشت. ینی لینکش با اون حالتی که بری تو قسمت jobهای خودش فرق داشت. دلیلشم اینه که اینطوری میتونن شرکت‌کننده‌های کنفرانس رو جدا و به صورت سریع‌تر بررسی کنند چون می‌گن کسی که کنفرانس اومده حتما یه احتمال خوبی داره که خوب باشه باهاش مصاحبه کنیم و احتمالا خیلی سریع‌تر به مرحله‌ی مصاحبه و اینا میرسید. جدا از شرکت‌ها، خیلی اوقات خود آدم‌ها ممکنه مستقیما بیان بهتون job offer بدن. من مثلا پیپرم رو رفته بودم تو EMNLP ارائه بدم، یکی بود مثلا از اپل از کارم خوشش اومد، کارتش رو داد گفتی خواستی واسه اینترنشیپ بیای اپل بهم ایمیل بزن.

۴. آشنا شدن و تبادل نظر کردن با expertهای فیلد و لینک زدن: این شاید یکی از مهم‌ترین مزیت‌های شرکت کردن تو کنفرانس باشه. ببین الان من مثلا NeurIPS که شرکت کرده بودم، تقریبا هر آدم خفن حوزه‌ی ماشین لرنینگ که تو زندگی‌م می‌شناختم اومده بود. از کریس منینگ گرفته تا andrew ng و yann lecun و bengio و jeff dean و اون دختره که عکس سیاهچاله رو render کرده بود و …. بعد خب اینا یه سری آدمن با خدا تا تجربه. تو میتونی بری کلی ازشون پند و نصیحت بگیری. بری باهاشون مشورت کنی و نظرشون رو راجع به آینده‌ی یه فیلد یا مسیر بپرسی. جدا از این آدم‌های معروف، می‌تونی با آدم‌های پیپرها صحبت کنی مخصوصا اونایی که کار مرتبط با کار تو میکنند و این تبادل نظره خیلی میتونه ایده بهت و تو کارت کمکت کنه. مثلا تو NeurIPS یه سری social event بود با تم خاص. مثلا یه social event برای reinforcement learning کارها. میرفتی اونجا و میدونستی که با تک تک آدم‌های اونجا میتونی راجع به سیر تا پیاز reinforcement learning صحبت کنی و تبادل نظر کنی. جدا از این تبادل نظر ه که میتونه کلی ایده بهت بده که چه خبر و هر کسی داره چیکار میکنه و نظر بقیه رو بپرسی، میتونه باعث لینک زدن هم بشه. مثلا با یکی حال میکنی linkedin یا ایمیلش رو میگیری بعدا بهش میگی حاجی من همونیم که اون شب تو فلان social کلیییی راجع به RL صحبت کنیم. الان شما تو فیس‌بوک پوزیشن RL دارید تو فیس‌بوک؟ بعد طرف هم میتونه حتی recommendت بسته به شناختی که ازت پیدا کرده طی اون social interaction. این کنفرانس EMNLP که بودیم، مثلا شب اخر کل شرکت‌کننده‌های کنفرانس رو بردن disney land و کل اونجا به اون بزرگی رو رزرو کردن برای کنفرانس. بعد مثلا اونجا دیگه شام اینا میدادن و میز گذاشته بودن که آدما بشینن پای میز. بعد مثلا میرفتی یه میز رندوم می‌شستی و ۵ ۶ نفر دیگه هم بودن. هر کسی معرفی میکرد خودش رو چیکار میکنه و اینا. مثلا تو میزما یکی research engineer بود تو element ai. یکی founder یه استارت‌آپ بود تو سیلیکن ولی. یکی دیگه هم استاد دانشگاه بود تو مک‌گیل. بعد هر کسی از تجربه‌ش میگفت و خیلی خیلی دید بهت میداد که اصن دنیا چه خبره. اینکه زندگی یه research engineer تو شرکت element ai چطوریه. دغدغه‌ها و مسائلی که یه founder تو سیلیکن ولی داره چطوریه و اینکه زندگی استادهای دانشگاه چه شکلیه. بعد از این استاد دانشگاه ه کلی راجع به این پرسیدم که مثلا پی اچ دی بخونم یا نخونم و خلاصه بعد از مسترم چیکار کنم. خیلی بچه‌ی باحالی بود این استاد دانشگاه ه. الان قراره فردا بیاد دانشگاه‌مون یه talk تو دانشکده‌ی CS بذاره اتفاقا :)) خلاصه اینکه با کلی آدم مختلف از engineer و researcher و PhD student و استاد دانشگاه و تیم لیدر و … آشنا میشی، خیلی خیلی خیلی ارزشمنده. هم از لحاظ کسب تجربه و تبادل نظر، هم نظر از لینک زدن و وصل شدن بهشون تو linkedin و مزایای بعدی‌ش.

۵. گشتن یه کشور جدید: به واسطه‌ی شرکت کردن تو کنفرانس فرصت این رو دارید که یه کشور جدید رو explore کنید مخصوصا اگه مثل من اهل سفر و گشتن باشید. اولا اینکه این گشتن و اینا مجانی در میاد چون پول هواپیما و هتل و ثبت‌نام کنفرانس و … رو دانشگاه یا شرکتتون معمولا میده. شما صرفا هزینه‌ی کارهای توریستی‌تون رو میدید که نسبت به پول هواپیما و هتل و اینا صفره. من مثلا رفتم هنگ‌کنگ، تقریبا خیلی کارهای خفن توریستی که ملت تو هنگ‌کنگ میکنند رو کردم و کلی رفتم گشتم و به شددددت خوش گذشت. کلا اینکه مجانی یه جا بری از اینکه خودت پولدار باشی پولش رو بدی بیشتر حال میده :))) کلا کندن خیلی حال میده :دی


خیلی خفن بود اینجا. با قطار قدیمی‌ها اومدیم این بالا. بعدم یه رستوران با همین ویو غذا خوردیم.

۶. دیدن دوستای قدیمی: احتمالا خیلی از دوستات از ایران مهاجرت کردن واسه تحصیل و هر کدوم رفتن یه کشوری و شاید خیلی وقت باشه که فرصتی نشده همدیگه رو ببینید. وقتی میرید کنفرانس فرصت این رو دارید که دوستای قدیمی‌تون که تو این فیلد کار میکنند رو ببینین. مثلا اگه امیر ویزاش میومد میتونستم تو هنگ‌کنگ ببینمش ولی ویزاش دیر اومد و نشد ببینمش. ولی مثلا سجاد رو تونستم ببینم یا مصطفی رو بعد چند سااااال تونستم ببینم که خیلی خیلی خوشحالم. خیلی خیلی حس خوبی داشت که دوستای قدیمی‌م رو می‌دیدم. نمی‌دونم برای من اینطوری بود که انگار هنوز ایرانیم و همون روابط رو داریم. چقدر خوش گذشت این ۵ روز!


مصطفی رو بعد چند ساااااال دیدم :)


سجاد هم از دوستای لیسانسمه که از تورنتو اومده بود دیدمش و همش اینور اونور بودیم

۷. انگیزه: من قبل از اینکه برم EMNLP واقعا میگفتم کی اخه PhD میخونه (هنوزم میگم :)) ) ولی وقتی رفتم EMNLP اصن خیلی وسوسه‌تر شدم برای PhD و خیلی انگیزه‌م برای ریسرچ بیشتر شد. وقتی برای خودت نشستی یه گوشه‌ی دنیا ریسرچ میکنی، بعضی اوقات خسته میشی میگی fuck it این چه غلطیه من دارم میکنم ولی وقتی میری کنفرانس و کلیییی آدم می‌بینی که تو همین حوزه‌ی تو دارن مسیر رو میرن جلو، کلی بهت انگیزه میده که هم قدم داری. بعد هم اینکه وقتی کلی آدم خفن تو حوزه‌ی خودت رو می‌بینی، کلی ازشون انگیزه میگیری. من الان واقعا اگه این دو تا کنفرانس رو شرکت نکرده بودم، احتمالا پی اچ دی خوندنم از یک درصد به ده درصد نمیرسید :)) حالا باید کم کم تصمیم بگیرم بعد از فارغ‌التحصیلی ارشدم می‌خوام چیکار کنم.

خلاصه

من خیلی اهل تجربه کردن هستم. حس میکنم خوش‌شانس بودم که تو این سه ماه، فرصت این رو داشتم که دو تا کنفرانس خفن رو شرکت کنم. واقعا تجربه‌ی خوبی بوده. با کلی آدم جالب و خفن آشنا شدم و یه سنسی گرفتم که هر کسی داره چیکار میکنه. ایمیل و linkedin کلی آدم رو گرفتم که بعدا به درد شغل پیدا کردن میخوره. با کلی آدم از جمله‌ استادهای دانشگاه صحبت کردم و مشورت گرفتم. با یه سری PhD student صحبت کردم و یه sense گرفتم که life styleشون به عنوان دانشجوی PhD تو اون دانشگاه چطوریه و تعامل‌شون با استادشون چطوریه. با research scientistها صحبت کردم که مثلا گوگل چطوریه و اینا از صبح که میرن سر کار تا عصر سیستم کاری‌شون چطوریه. خلاصه کلی چیز دیگه. فرصت این رو داشتم که یه کشور جدید رو بگردم و اینکه دوستای قدیمی‌م رو ببینم. کلی هم چیز جدید یاد گرفتم.


  1. مدل‌های sequence-to-sequence مدل‌هایی هستن که قراره توشون یه شبکه‌ی عصبی یاد بگیره که یه دنباله رو تبدیل به یه دنباله دیگه میکنه. مثلا ترجمه‌ی ماشینی یه مثالش هست. یا مثلا این مساله که به زبون آدمیزاد مساله رو بگو و اون ور یه کد C++ برات تولید بشه هم از این نوع مسائل هستش. یا مثلا اینکه یه متن بدی خلاصه‌ش رو شبکه‌ی عصبی برات تولید کنه باز از همین نوع هستش.
  2. این کنفرانس قبلا اسمش NIPS بود منتها به دلیل اینکه می‌گفتن offensiveه، اسمش اخیر تغییر کرد به NeurIPS
  3. سایت arXiv یه سایتی هستش که ملت پیپرهاشون رو آپلود میکنند اونجا تا در دسترس همه باشه. بعضی از کنفرانس‌ها ممنوع می‌کنند که پیپرت رو قبل از اکسپت شدن بذاری اینجا به خاطر اینکه anonymity رو از بین می‌بره (چون قراره reviewerها ندونن این پیپری که دارن بررسی می‌کنن مال کیه و اگه پابلیک رو اینترنت باشه خب معلوم می‌شه)
comments powered by Disqus