EP11: 對話LinkedIn產品DS 响歌歌 AI對數據分析的衝擊 Product DS生存戰
「用聽的」
追蹤訂閱,不錯過數據女孩最新資訊
YouTube, Spotify, 小宇宙, Apple Podcast, B站, 小紅書, Threads, Instagram
追蹤響歌歌:https://www.xiaohongshu.com/user/profile/5ab3000a4eacab507c8c95a7
「用讀的」
Amy: 大家好,歡迎大家收聽新一期的「數據女孩的中年危機」。我是Amy.
Stella: 大家好,我是Stella.
Amy: 感謝朋友們的喜歡跟支持,也歡迎新朋友們來聽我們聊天。大家在網上直接搜「數據女孩的中年危機」就可以找到我們了。在YouTube.各大Podcast平台,Spotify、Bilibili、小紅書、小宇宙都可以直接關注我們。
Amy: 大家好。歡迎大家收聽新一集的數據女孩的中年危機。我是Amy.
Stella: 今天我們來了一位新的嘉賓,響歌歌。響歌歌給大家打個招呼吧。
響歌歌: 哈嘍,大家好,我是響歌歌。我先自我介紹一下我是有7年經驗的中年數據女孩,所以來上這個節目真的覺得自己特別有共鳴。
響歌歌: 我現在是在美國的一個科技公司LinkedIn做Product方面的DS.我的可能做非常多的專精領域就是數據幫新產品從0到1的分析。
響歌歌: 業餘時間我也會。我也是一個小博主吧。就是會在小紅書還有LinkedIn上面去分享一些自己對於這個職業的一些觀察還有一些看法。
響歌歌: 現在正在也跟朋友做一個新的探索吧就是在做一個AI去賦能數據分析師的一個訓練營就是自己在用了AI工具之後發現AI對自己的效率提升真的槓槓的。
響歌歌: 所以也想說把自己總結下來的一套流程和心法去通過課程的形式去分享給大家對希望大家能少幹活,多掙錢,然後升職,加薪。
Stella: 響歌歌也是很早在小紅書上,就和我們接觸過的朋友之一嗯,當時我們有簡單的聊一下。就發現大家都是在這個職場都有類似的迷茫和困惑以及,在這個AI來臨的這個時代呢,對自己的行業,整個data行業,有一些思考並且在尋求出路。
Stella: 所以我們想跟響歌歌一起來聊一下。
Amy: 如果你是響歌歌的粉絲,然後來聽我們。然後我們也自我介紹一下我是Amy.我也在這一行大概有七八年經驗。
Amy: 先是做data scientist,主要做modeling部分。後來轉做MLE,就是全做MLOps的部分,現在在一家Industrial IoT的公司做。
Stella: 嗯,那我也介紹一下自己,我是Stella,我在Data這個行業工作了十多年。
Stella: 之前呢,在AdTech,LogisticsTech和eCommerce-這一類的公司做FullStack Data Scientist。
Stella: 最近呢,也加入了AI浪潮,在一家高校裡面做AI相關的工作。那我們接下來問一問響歌歌的職業經歷。
Stella: 哦,你現在是在LinkedIn,但你之前也有做過教育行業和保險行業是嗎?
響歌歌: 嗯,對的,不過我的教育行業其實是偏互聯網教育,就是e learning,相當於是給二到八歲的小朋友去學語言的一個app吧。
響歌歌: 其實跟現在做的東西是有一舉同工的,但會有帶一些教育的性質,然後我之前還上一份工作還在保險行。
響歌歌: 行業待過。所以相當於也是在傳統行業,也在互聯網行業,然後在大公司待過,也在小公司待過。
響歌歌: 這樣子一個比較多元化的經驗吧。
Stella: 在你工作過的這些公司你剛才也提到。有傳統行業,有更新一些的行業。
Stella: 有小公司,有大公司。你待的最舒服的環境是什麼樣的呢?
響歌歌: 其實,對我來說,這三份工作我待的最舒服的還是現在。
響歌歌: 這一份我比較喜歡在互聯網然後也是可能因為這個原因待的比較久吧。嗯,啊,首先我覺得它是一個比較及時反饋的一個工作就是在這邊,因為我是而且是知識產品覺得跟一線特別近。
響歌歌: 我去做一個分析然後有了一些洞察之後,我給到產品然後產品去落地可以通過實驗的情況去看一下。
響歌歌: 說我之前提出的那個建議。到底反饋是怎麼樣的無論是好是壞,你大概知道說你的判斷對不對?
響歌歌: 但是在之前的工作,比如說保險行業,首先是他整個項目的回路特別的長。
響歌歌: 因為我之前在保險其實更多做的是modeling方面的,做這種sales modeling去做propensity model,去predict說可能哪個customer比較容易買,然後我們就去target那個customer。
響歌歌: 因為傳統行業他做項目的流程就比較長,可能做一個模型就是都是按月去checkpoint的,可能做個幾個月,然後再去向sales去influence他們用這個模型。
響歌歌: 然後最終可能落地還要一年的時間去看一下monitor一下,說他們用這個模型去target customer的情況怎麼樣。
響歌歌: 就覺得這整個回路是比較慢的,所以說就反饋感沒有那麼強。我所以我比較喜歡現在的這個情況,就是比較快節奏。
響歌歌: 你能感覺到自己的建議到底是不是對了。
Stella: 保險行業跟互聯網行業,比如說跟你現在LinkedIn,這份工作相比的話,它的收入大概相差多少。
響歌歌: 至少我覺得是乘以2以上吧。
Stella: 那真的還是差蠻多的。
響歌歌: 對,因為有很大一塊是RSU就。如果你是在成型的互聯網公司,他會給RSU嘛。
響歌歌: 所以那塊基本上就是佔據了整個差距的大頭然後Base可能會多一點對。所以其實算了RSU我覺得是乘以2以上然後Base的話可能會多一點吧,可能多個對3、40差不多。
Amy: 除了這個,薪水比較好然後反饋感比較快。我聽說LinkedIn過得。還蠻舒服的,是不是飯很好吃?
響歌歌: 飯是真的挺好吃的。我覺得它特別符合中國人的胃口就。我吃過灣區可能我之前還住在硅谷的時候,包括我們公司之外還有去一些其他科技公司。
響歌歌: 但我覺得我們公司是最符合亞洲人胃口就。比如說我之前最享受的就是一早上可能自己一個人去嗯公司食堂吃早餐就7點到8點都沒什麼人就在那喝粥。
Stella: 喝粥哦。
Amy: 哈哈哈。
Stella: 真的很亞洲誒。
響歌歌: 喝粥然後還有吃香港的那種 fried noodle-就是擔仔面吧應該是。然後有時候早上還會有那種手撕雞湯面就是會覺得還真的挺好吃,我覺得不輸外面的餐廳。
響歌歌: 吃是真的無話可說。
Stella: 我覺得特別好吃那你住在灣區,每天去office的時候有胖嗎?
響歌歌: 那段時間可能有胖吧。我在灣區其實時間不長就待了,可能不到半年就疫情了,然後我就搬出來了。
響歌歌: 不過那個時候在office感覺就運動量也還挺大,因為要走不同的園區。所以可能有一個balance out.
響歌歌: 你吃的多,動的也多了。
Stella: 可能很多朋友,包括我自己啊,對LinkedIn,他具體的這些各個不同的org不是很了解。
Stella: 響歌歌,可以給我們介紹一下嗎?
響歌歌: Data org.我們主要是分整個大的Data org底下分DS和AI然後AI其實就是大家常說的MLE啦,他們做的可能就是production level的一些system,比如說你到LinkedIn上面給你推工作呀,給你推人去connect,這種就是AI team或者MLE team去做的就這種比較復雜的工程性系統吧。
響歌歌: 然後另外一大塊就是DS. DS主要還是做可能偏內部 support偏多就算你做模型可能也是說是targeting的模型。
響歌歌: 這種類型就不是說去直接customer user facing的,那種。我覺得區別就是AI和DS的區別就是AI是user facing的,但DS更多是內部用的模型和一些分析的東西然後DS底下還分三個track:一個是analytics,然後第二個是algorithm and influence然後第三個是data foundation然後我自己是屬於track 1的,就是算是analytics and inside然後我們是跟product最緊密的,相當於是一線的DS.
響歌歌: 然後track 2是比較偏algorithm and influence那這一類DS可能更多的,就是他們需要他們去解決一些 track 1解決不了的問題,比較復雜的這種系統性的問題,比如說你整個marketplace怎麼optimize這種可能就需要比較holistic的去想然後需要用到一些復雜一點的methodology.
響歌歌: 然後第三個就是data foundation.那塊就比較偏DE了就基本上就是整個 metric的governance然後整個data foundation的就是要維護整個數據的質量吧。對,主要是DS,底下會分這三大塊。
Stella: 你剛才說的第二個track algorithm他們和AI org下面的這些MLE的差別。除了在產品的服務對象不太同意以外,還有什麼其他差別呢?
響歌歌: 我覺得最大的差別還是一個是user facing然後DS是更偏內部服務的然後我覺得AI那邊更偏的還是 modeling那方面的技術,就machine learning那方面的技術。
響歌歌: 但是track 2的DS algorithm的influence它是一個更廣的領域。它既要包含有部分人可能是做costume的然後一部分人是做optimization的就可能技能會更廣一些就從整個team的diversity in skill來說會更寬廣一些對就可能不像AIT更多就是做一些啊modeling去 predict user會不會看某些東西。啊,響歌歌,你可以給我們解釋一下你在linkedin的工作內容嗎?
Stella: 你的scope是怎麼樣的?你的工作主要是去解答一些什麼 business上面的問題。
響歌歌: 我自己是做product analytics的然後我現在近半年來,我其實都是在做一個大模型的啊產品就是用基於大模型的技術然後去幫求職者去幫他們求職比如說你可以去幫你個性化的改你的簡歷啊 cover letter啊去natural language,自然語言,去搜索工作呀這類的這樣子你可以把它想成charge pt for job seeker吧。
響歌歌: 我最主要的大頭的工作現在可能就是怎麼樣以這個產品為核心,怎麼樣去幫他grow,能幫他grow然後幫我們公司賺更多的錢。
響歌歌: 像現在我們這個產品,因為還處於在前期落地的階段,因為大模型,現在基本上都是各個公司都想說怎麼樣跟把大模型跟業務結合在一起。
響歌歌: 所以我們現在也是在做這個探索就屬於我覺得是剛跨過從0到1.現在是希望從1到10這個過程然後我的目標可能就是怎麼樣我從用戶的數據裡邊看出用戶對這個產品的反應然後再看一下他們怎麼用的發現一些機會能把這個產品從1到10然後去增加我們公司的這種付費會員的收入吧。
Stella: 這個產品launch了嗎?
響歌歌: 已經launch了哦。
Stella: 我還沒有注意到。
響歌歌: 有premium才可以用。
Stella: 啊ok.
響歌歌: 20幾塊吧,30塊吧,Premium應該是。
Stella: 好像一般,如果不是在找工作的期間,就沒有特別大的動力去開Premium,除非是,比如說,要hire人的時候啊,公司可能會給一個Premium。
Amy: 我覺得LinkedIn Premium是一個讓人特別害羞的功能,就是你買了以後,它會放一個橘色的badge在你的名字旁邊,然後我就覺得好害羞,大家都知道我付錢在買這些service。
Amy: 我最近有看到LinkedIn有一個新的功能,就是它開始有一些topic,然後它會希望大家去contribute各種各樣的answer,然後你要是contribute了足夠的量跟quality的話,它會給你一個badge,寫什麼你是LinkedIn Top AI Voice,什麼之類的。
Amy: 然後我就覺得這個是在幫LinkedIn做data嘛,做一個data labeling的工作嘛。
Stella: 我覺得是在幫他做一個knowledge base.
Amy: 對的 就是幫他做一個knowledge base.
Stella: 對。 然後其實我看到這個的時候我有一種想白嫖我的。
Amy: 感覺哈哈哈,他會送你一個badge啊。
響歌歌: 嗯。
Amy: 哈哈哈那。
Stella: Amy,你有回答嗎?
Amy: 我昨晚回答了三個。
Stella: 哇,你這麼棒。
Amy: 因為我發現他寫說你只要contribute三個,他可能就給你一個badge.我就想說那簡單啦,還蠻便宜的。
Amy: 然後我就試試看。對,有聽到的人幫我加個badge.
響歌歌: 哈哈哈,挺好的。你就是我們要target的那種人就是願意願意share自己的knowledge,然後就是可以有一個展現自己,是一個expert的那個機會的,這種target audience.
Amy: 我在四處找比較簡單的那個問題回答然後我發現回答的就那幾個人。他們大概就是注意到這個趨勢了。可能就可以想要用這個方法增加一些 exposure.
Stella: 如果回答三個問題,就可以拿到badge然後並且一直這個badge.就stay with you的話,那我可以今天晚上去回答一下。
響歌歌: 哈哈哈哈,對啊,這個之前有聽說他們在做就是為了打造一個knowledge marketplace啦。
響歌歌: 就有點像Stella說的就打造一個知識庫,職場人的知識庫。那個意思對,就職場人可能很多知識都在腦子裡嘛,但是現在就是希望大家能寫下來特別是在借助大模型的話就可以更好的去觸達吧,更好的觸達用戶然後也可以幫助這些creator去promote他們。
響歌歌: 他們也希望說可能能在這個平臺上更多展現自己然後去吸引到一些觀眾們。
Stella: 所以LinkedIn現在還是有很多不同的新的產品的嘗試。但是也聽說LinkedIn在前段時間是有一次比較大的裁員的上一次的裁員當中都是什麼樣職位的人被裁呢, Data Science被裁的多嗎。
響歌歌: 對 Data Science.應該算是重災區了。應該是Top 1,只能被裁的。
Stella: Top 1啊對。
響歌歌: 那輪裁員是在10月份的時候發生的 DS被影響的還蠻大,因為我自己的老板還有我之前帶的兩個算junior一點的DS吧就都被裁掉。
響歌歌: 所以我觀察到可能有xx差不多xx的DS都被裁了。
Stella: 你說的這個xx%DS被裁是?指你說的這個整個DS org內的嗎還是因為你剛才提到有DS還有AI,這兩個org主要被裁?
Stella: 的是第一個org.
響歌歌: 對主要是ds被影響比較大。 ai基本上沒太被影響,有一些。有少數吧。
響歌歌: 少數被裁了,但ds會被影響的更多一些。
Stella: 在ds org裡面被裁的是有集中在某一些track嗎。
響歌歌: 基本上是check one,就是analytics的被裁的比較多然後也集中在兩種類型的人吧。一種就是junior的analytics.
響歌歌: 另外一塊就是可能是一線就最一線的比較junior的manager,因為manager那塊是因為可能公司想要把整個架構變得更扁平一點。
響歌歌: 所以就砍了很多可能middle layer就一線的那些manager然後直接roll up to report to higher level.我覺得那塊是比較可以理解,因為所有的公司在整個經濟不好的時候都有flattening的這個趨勢。
響歌歌: 另外一塊就是junior的人比較多被踩。我覺得我的interpretation就是說之後是希望analytics方面的DS就少做那種取述的活就多做那種可能比較復雜大一點的分析。
響歌歌: 另一方面也會引進一些AI的工具包括。我們已經開始推廣可能用自然語言去取述包括現在自然語言去搜索整個公司的支持庫。
響歌歌: 這種應用就是在內部算在大力推廣。所以我覺得其實也是吃掉了一部分的這種基礎性的數據分析的活。我覺得是有一部分的原因是因為這個一部分是因為經濟下行。
響歌歌: 一部分是因為確實可能基礎性的這種數據分析的活就需要被砍掉了。就是當你有這些AI工具之後
Stella: 我和Amy在我們第一期的podcast裡面也有聊就是我們覺得有large language model,有AI,這些進入了之後,他們開始有更多的application.之後對於junior data scientist尤其是做analytics的這些data scientist的衝擊還是很大的,因為他們的很多工作就可以被automate.
響歌歌: 我之前也試用了很多那種AI數據分析的工具嘛。就看到說可能這100個工具中有70%都是在解決取數分析可是話這種類型的就BI還有偏基礎的analytics,而且其中有一些工具確實已經做的挺不錯的了。
響歌歌: 所以說我覺得這塊是大趨勢吧,就是那些startup或者大公司他也不傻,他知道說這塊是GNI相對好解決而且市場有這個巨大的痛點。
響歌歌: 所以我覺得應該在過幾年就應該能看到比較成熟的產品去做這種比較基礎的app hold app hold data的request.
Stella: 響歌歌,對於你作為在analytics track的這個data scientist來講,你會有很大的危機感嗎?
Stella: 然後你剛才前面也提到,說,你覺得簡單的這些分析是已經完全可以被取代了,覺得data scientist可能要更多的去做一些比較複雜的analysis,那在你看來短期內不太能被取代的一些data scientist的工作會是哪些?
響歌歌: 對,我覺得我去年這個時候就特別焦慮,可能去年中吧。就覺得完蛋了,自己要取代了。
響歌歌: 我都不知道下一份工作該找啥,但是後來也是仔細研究過整個他的AI的能力吧。他哪些東西能做,哪些不能做,包括現在所有的AI工具。
響歌歌: 我覺得就是還是有一大塊的能力。現在的分析師能做特別是資深分析師能做,但AI是不可以做的就是你的整個對業務的全面的判斷吧。系統化的判斷還有你可能跟人這種influence的能力對,因為其實大部分的junior我覺得AI能替代junior的原因是因為 junior他很多時候接收到的都是一些比較具體的ask,比如說Stacy,你今天去幫我取一個什麼去年的revenue就這種很concrete的來自業務的就是有點像取出機器人,但是你真的一個analytics track的人要做得好還是必須要能夠跳脫出這一個一個的點狀的取數的需求吧。
響歌歌: 你要能看到這整個全局,就是包括你的公司的業務是幾大塊。他們是通過什麼樣的價值串在一塊的。
響歌歌: 你能看到一張網說我應該怎麼樣去。提供一個體系化的解決方案然後應該去選哪一個點去分析是對現在整個業務最重要。
響歌歌: 然後這個業務又能怎麼樣去轉換到公司。他最終產出的這個KPI就是有一個比較全局的概念吧對業務,對商業怎麼賺錢這件事有一個比較全局的概念我覺得才能產出一個比較系統性的分析方式。
響歌歌: 這個就是可能Junior的DS或Junior的DA比較不具備的。然後我覺得AI暫時性的沒有這麼復雜的全局性的思考能力。
響歌歌: 它也沒有像我們積累這麼多年業務的上下文。所以我覺得這塊是不太會被取代還有另外一塊就是和人吧和人交流。
響歌歌: 我覺得人與人交流。這個東西是從古至今,無論多少技術變化都不會替代的 AI不可能告訴你說你的stakeholder的MBTI是什麼 ENTJ還是什麼ESTJ.
響歌歌: 你沒有辦法說只有你真的是一線去跟他交流。你知道他每天睡不著是因為什麼事然後他的性格是怎麼樣。
響歌歌: 你才能用一種比較合適的方法去把你要傳達的message去給到他。我覺得這塊是AI就算他能夠根據一些個性化的信息去調整。
響歌歌: 我覺得是完全沒有辦法在未來取代的就是人和人之間溝通能力。
Stella: 你剛才提到的覺得比較senior data scientist做的事情我聽起來更像是怎麼去identify problem以及怎麼去frame problem那可能我naturally我就會想說其實這就有點涉入到 product management的領域了。
Stella: 是不是說AI出來之後 DS和product management之間的這個界限就不是那麼的明確了呢。
響歌歌: 對啊。我覺得其實DS和PM在strategic thinking這塊技能是重合的。
響歌歌: 呃,我不認為我就 PM在想product,怎麼做那塊能力?我覺得我也是有的。
響歌歌: 就是比如說PM,他是真的是decision maker,他握著方向盤。那我覺得DS應該就是副駕駛。
響歌歌: 無論你是主駕駛還是副駕駛,你都要對這個車要往哪裡走,要有一個自己的judgment吧。我覺得這塊能力是shared的。
Stella: 我的UX朋友們可能會問UX做在哪裡?
Amy: 哈哈哈。
Stella: 對啊我在想挺有意思的就是因為DS很多尤其是做analytics的DS很多時候也做很多PM的活,然後UX也會去做一些PM的活。
Stella: 我不知道現在這個情形下是 PM的危機感會更大,還是 DS和UX的危機感會更大。
響歌歌: 誰決策能力大,誰的威脅就更小吧。我覺得最終AI沒有辦法代替人決策。它可以幫助你思考,但是最終權力還是掌握在決策的人手裡。
響歌歌: 所以我覺得,如果在一個項目裡誰的決策權大,那我覺得它就比較不容易被替代。
Amy: 我覺得是啊,就是可能三個都要會一點,要有一定的understanding.那你的title,什麼不重要,你,如果對三個領域的理解都有一定的程度的話你自然會變成決策者或者人家會去問你意見的那個人。
Amy: 那我在響歌歌的小紅書上學到一個很厲害的詞。他說他是Gen AI,堅定的降臨派。
響歌歌: 哈哈哈哈。
Amy: 有什麼來源嗎?
響歌歌: 最近正好也在Netflix在上那個TV show嘛就是叫三體,然後三體就是那群外星人,然後他們要來到地球,然後地球上的人他就會分成三個派,那降臨派就是非常希望三體來拯救地球上的人,因為覺得地球上人已經無法自救了。
Stella: 降臨派好像就是那種累了毀滅吧。那一派,他好像是葉文潔那一派,就是覺得說人類非常的不值得存在,那就趕緊來一個外星生命把我們都殺死吧。
Stella: 拯救派就是剛才翔哥說的,就是假設這個外星的高等文明是一個非常友善的文明,他會來拯救我們,把我們的文明帶進下一個階段。
Stella: 然後還有一派是倖存派,倖存派你可以理解為漢奸派,我覺得外星文明來了之後會殺死我們,但是如果我早點投降的話呢,大概我是可以活下來的,或者說我的後代是可以活下來的。
響歌歌: 那這麼說,我覺得我應該更屬於拯救派,他能夠幫我們生活變得更好吧。算了,不算是那種累了毀滅的狀態 Amy呢? Amy,你覺得你屬於哪一派?
Amy: 我想活下去。當然會說我是拯救派,但我有時候覺得就隨便啦,就當降臨派就好。
響歌歌: 哈哈哈哈。
Stella: 我算不算幸存派啊,就是打不過,就加入,因為我也確實轉入了AI,這個行列嘛。
Amy: 如果這樣算是投降的話應該算是幸存派,拯救派。會去加入他們嗎?
響歌歌: 拯救派和幸存派。最大的區別就是拯救派更樂觀吧。覺得一定要大力的推行AI然後改造我們生活變得更好。
響歌歌: 但幸存可能就是比較被動的,比較passive的,就是我不promote,但是我也不抗拒,我就靜靜的等著它發生就好了。
Stella: 對。我覺得我得加個disclaimer.三體我也是真的是好多好多年前看的了。
Stella: 如果我概括的有不準確的話,就請大家原諒,並且在留言當中告訴我們,指出我的錯誤。
Amy: 我看了一點點,但我沒有看完。
響歌歌: 嗯,我覺得超好看,強力推薦。
Stella: 我覺得第一卷的前半本是稍微要忍一下了,因為我其實前幾次看的時候都沒有撐過前20頁,但是第三次看的時候是因為在一次非常非常長的road trip,實在沒有別的消遣了,就撐過了前面那一點,後面就很順利地把接下來的全都看完了。
Amy: 《三體》真的是一個蠻有趣的書,我不是說我看過有趣,是那時候我白人同事,那種喜歡科幻的男同事,全部都來問我知不知道這本書,真的是有紅起來。
Amy: 那我們take size以後,我們要不要回憶一下,因為ChatGPT現在大概出來一年半了,你還記得你那時候,剛開始用ChatGPT的時候,有什麼感覺嗎?
響歌歌: 我記得當時第一次用應該是3還是3.5。我忘了,但第一次沒感覺很厲害就是因為感覺還是傻傻的吧。
響歌歌: 就是覺得跟他說什麼,他好像說的挺像樣,但是就是語言很很awkward然後又不是太聰明的樣子。
響歌歌: 所以當時沒有覺得非常的印象深刻是到後來試出來了就覺得有一個比較質的飛躍。我記得試出來之後我有有兩個瞬間吧讓我覺得哇,這東西真厲害。
響歌歌: 一個是我在寫那個year end review.本來我得花一天來寫我所有的peer review,但是那次就用了ChatGPT.
響歌歌: 我就直接用語音跟他講。我平時跟這個人怎麼工作的,然後他觀察到我,觀察到好的地方在哪然後可能進步的地方在哪,然後他就真的內化了我所說的,就真的幫我reframe成一個更positive然後更精準的語言吧。
響歌歌: 我覺得這個是我可能要自己想破頭,要想很久怎麼樣去provide constructive and positive,就是把它frame的很positive的那種feedback就是它在短時間內我覺得可以幫我做這種重復性的工作,大家提醒還有另外一塊就是確實寫代碼方面吧。
響歌歌: 就現在基本上用chattypt去寫代碼可以實現就是hands free的,就都不太用code就讓他去給。他布置任務,然後讓他回收任務,然後批改一下,再繼續,讓他去做,就行了。
Stella: 我不太記得確切的時間點了,但我可以告訴你我最早的use case是什麼?你們倆都沒有小孩,所以你們大概沒有這個困惑就是逢年過節的時候要給老師寫賀卡。
Stella: 這個事情對我來說很難。就讓我用中文寫。我都覺得很痛苦,更不要說用英文寫了。
Stella: 所以這個是我的第一個ChatGPT的use case就用我非常沒有感情的這些prompt放進去,然後他會給我寫出很好的這個賀卡的內容。
Stella: 我記得第一次用的時候,我在手抄下來,然後寫在賀卡上給老師。老師看了以後都非常地感動,但是就當時很心虛,就覺得非常的embarrassed。
Stella: 哈哈哈,想說這個,其實沒有太多的真心在裡面。
Amy: 呃,我ChatGPT一出來的時候我就嚇到了,因為其實前幾代的GPT它屬於一種 Document Completion,創作型。
Amy: 所以那時候寫出來的東西,大家都是還是有點比例,覺得有點怪,有點不夠像人。
Amy: 然後ChatGPT第一次出來的時候,我以為會跟之前一樣,但自己一去試了以後,就發現說這次有一個值的變化,然後就去看paper啊什麼的,發現這次做的確實是不一樣。
Amy: 第二個moment是我爸跟我說他開始用了。所以我就發現當一個東西老一點的比較,他對科技沒有那麼敏感使用的人開始用然後他也會用的時候他就是有意思了。
Amy: 他就會造成一些社會跟產品上的改變了。因為我沒有人教他,他就會用了。
Stella: 你爸爸當時的use case是什麼?
Amy: 我爸跟我說他問他一些法律問題。聽到我就哼,你問他法律問題。這樣有點太危險了吧。
Amy: 然後我就說你具體,問他什麼?他就說是他的私事。我想,你私事跟ChatGPT講,不跟我講。
Stella: 在數位資料庫裡面。
Amy: 然後當ChatGPT出來,我一些做NLP的project.主要是chatbot的部分。你會發現所有的東西都已經重做了,因為他已經完全的改變了整個Infrastructure跟Workflow了。
Amy: 有一些在行內的人。他還會覺得 Oh I'm not sure。Maybe這個會成功。
Stella: 不會。
Amy: 可是當時我們那個團隊,就是覺得嗯, 就是這樣了,我們要往這個堅定的拯救派走了.
Stella: Amy 我知道你後來是有去讀一個 NLP Natural Language Processing-的Master是嗎?
Stella: 這個是在ChatGPT之前還是之後?
Amy: 說到這個還蠻好笑。我碩士是念Computational Linguistics在UW.
Amy: ChatGPT出來的幾個月以後就很明顯看到了我們很多同學都被lay off了,因為當你NLP你沒有Jump on the new bandwagon還是用比較所謂傳統NLP說傳統其實它也是一個很新的東西。
Amy: 但是當Generative AI出來以後這些很多以前的所謂的NLP Task例如像 Topic Modeling啊, Summarization啊這些都是經典的NLP Task-它就瞬間變得沒有意義或者就根本就比不過 ChatGBT等等的Generative AI Model,當你反應不夠快的時候我們很多朋友發現就整組被砍了那讀這個Master是,幸好說我本來還有一個工作嘛,不然我可能轉行就反而轉入一個馬上就終點的行業。
Amy: 但從Computational Linguistics要轉這個Generative AI.我覺得還蠻順的啦,就是需要個人做一個心態的調整這樣。
響歌歌: 對啊,剛才Amy你說就是對,本來NLP可能傳統NLP有很大影響我覺得我也很大的很有共鳴吧,因為我現在做那個大模型分析很大一塊是要去分析user的跟AI的這個chat chat history然後這一塊的話如果用傳統的NLP去做我們也是要做那些建模呀什麼topic modeling這種。
響歌歌: 但是現在就基本上我都是直接用openAI的ABI就直接用大模型去分析,大模型來做這個topic modeling然後來做這個情緒分析呀這些東西的。
響歌歌: 所以就整個把效率提的很快吧。就之前我有個同事還是因為做了一個這種NLP的project可能花六個月時間被promote了,但現在我覺得同樣的事情可能只需要兩三周我覺得就是可能兩三周都算挺長的就是會把整個NLP的task的時間大幅縮短。
Amy: 我剛剛也跟你稍微講一下,我什麼時候開始思考對我本行的影響。那你們是什麼moment開始想說,哇,這個跟我的本行有很大的關系,會影響到我現在的工作?
Stella: 對於我來說是看到GPT generate a code,這個code quality的時候,是真的覺得會被影響。
Amy: 你算是在微軟下面的org,你有免費的Copilot,可以用嗎?
響歌歌: 對,算是有吧。
Amy: 對,我那時候蠻屌絲的,就在想說要不要花錢買Copilot,一直在猶豫。
Amy: 然後我朋友買了,都說好,不買會後悔。
Amy: 買不買是其次。啦,就是建議大家都先試試Copilot的能力。
Stella: 說起來,你們有去看Devin嗎?完全自動寫code的。一個產品叫Devin。
響歌歌: 我有set up for the waitlist,但還沒排到,因為他可能主要現在先針對Enterprise吧。
響歌歌: 看了一下他的視頻,感覺確實還蠻厲害的。
Amy: 我也是在 wait list 上面。可是現在這種 AI 產品就是說它很容易雷聲大雨點小,所以我也蠻期待用用看的。
Amy: 而且它有時候會比較專注某些 vertical 做得比較好。例如它 e commerce 的 use case 比較厲害,但是其他可能還好。
Amy: 所以我一直都有點存疑啦。可是如果真的用起來會嚇到我也不會意外。
Amy: 響歌歌有提到說你有用了一百多個數據分析工具就是 AI 的應用。你有什麼推薦嗎?既然我們要當拯救派的話,那就不如就直接用起來了。
Amy: 你有什麼工具是可以推薦給大家的?
響歌歌: 對, 我覺得其實有一個工具用到現在還蠻impressive的。其實很多工具我覺得有一個限制,就是說你,如果沒有在公司level上推廣你個人很難去用因為你有一個數據的安全性,隱私性的問題。
響歌歌: 所以說其實個人角度,我們現在去賦能自己能用的工具比較有限。我基本上還是擁有GPT會多一點然後其他的話有一個叫Julius AI-我不知道你有沒有聽過它實際上有一點像ChatGPT fine tune過的就是Analytics Purpose.
響歌歌: 我覺得他們的模型我推測他們應該是用GPT4做為基礎模型然後加了一些fine tuning,因為明顯感覺到整個推理過程,包括寫出來的報告會更符合整個數據分析,數據建模的流程。
響歌歌: 所以我覺得那個是我用到現在最具有數據思維吧,數據分析,數據建模思維的一個算是 agent類的那種產品就叫julius AI.我就發了一個關於這個軟件的測評。然後有個VC就來找我,問我對他們家公司的感覺怎麼樣,因為可能想要投他們家公司之類的。
響歌歌: 然後他說他也觀察到說這個產品最近長得特別快嘛就organic就很多人會自動去宣傳。所以我覺得這個是我用到現在覺得還挺不錯的然後其他的。
響歌歌: 還有一個是有用了一個開源的包叫Vanna AI然後它是可以去連數據庫然後你用自然語言可以去幫你取數的。
響歌歌: 我覺得就是做下來的效果也不錯,而且可以deploy成一個app,然後讓你的business stakeholder.就直接可以梳問題,它就可以直接取數,我覺得是還蠻方便的。
Stella: 剛才你說的這個Vanna AI,它是這個open source,它是完全local的一個model嗎?還是它也需要去,就是call其他的API?
響歌歌: 它其實也是需要call API的,就是你需要去連某一個大模型的API。
Stella: 你剛才提到的這個數據安全性還是一個挺大的問題,就比如說在health industry或者是在education的話有這種數據的regulations,比如說我現在工作接觸到的很多項目,它都是受到FEPA regulated,我的數據是不能放到很多的這個,比如說OpenAI或者是Google的這些API當中的。
Stella: 所以,這個也是很多LLM他們現在或者是AI產品他們現在面臨的一個很真實的挑戰。
響歌歌: 是的,那你們會嘗試說在企業內部先進行脫命嗎,再去傳過去?
響歌歌: 還是說就會,因為這個原因就直接放棄,不用大模型了。
Stella: 我覺得是不可能放棄的,因為大家都知道這一個是就是未來的方向。具體可能是說怎麼去更安全的使用吧。
Stella: 我現在有時候會嘗試用這種就是用你的設計,你的這個design去克服這個data security的問題。
Stella: 但是我不會直接去就是我在連接生成的SQL query和去call database之間我是要有一些guardrail的這樣我不會讓這些language model的API直接去touch我的這些database.
Stella: 包括你在設計prompt的時候,可能你在喂給他一些你的schema information的時候也是要小心一些。
Amy: 很多公司他可能在考慮就直接自己host一個copy,有可能是open source的,也有可能是跟像微軟Azure,就是我自己host我自己的chat, GPT,然後內部使用data不會外再回傳到OpenAI這邊。
Amy: 但那樣還是一個call API,但是它算是data比較secure,所以要看公司有沒有願意投入這個錢。
Stella: 響歌歌,你剛才提到你在工作中,你個人會做這些。嘗試用這些工具,你使用這些工具的workflow大概是怎麼樣的?
響歌歌: 我覺得我現在是相當於有很多個AI的實習生在幫我打工。就有一個專門寫code可能寫code就是一般用copilot來或者是ChatGPT會比較多一點。
響歌歌: 然後我也自己相當於捏了一個 custom的gpt吧,就是會把一些可能業務的上下文當然這邊可能就是要注意一下不要給一些可能比較敏感的信息就捏了一個有業務上下文的這樣的一個gpt然後會平時會讓他跟我一起去頭腦風暴。
響歌歌: 就相當於寫code的是有個實習生a吧 ai實習生a然後ai實習生b是幫我頭腦風暴又。另外,可能捏了一個幫我寫報告的就是我會給他一些我之前可能比較成功的這種寫作的案例啊。
響歌歌: 然後包括我們director特別喜歡的那種模式之類的我就跟他說你就按著這個寫然後可能就是相當於有不同的這個小秘書在幫我打工吧然後去做一個項目這個是我大概的一個 workflow.
Stella: 那你現在有了這一些給你打工的實習生之後,你覺得一個數據分析師他的核心競爭力是什麼呢?
Stella: 他和AI之前的核心競爭力發生了什麼變化呢?
響歌歌: 我覺得其實現在更考驗你能不能把這些塊拼起來。可能也借鑑之前我跟另外一個博主聊。
響歌歌: 我覺得他有個說法還挺好的就是更考驗你拼樂高的能力了就原來可能你是需要去非常深入的這個項目,做這個項目的一些detail去做一些執行性的工作非常多。
響歌歌: 但是現在可能你更上升到一個實習生老板的角色。你只需要說我知道把哪個實習生放到對的地方,然後我知道怎麼去給他布置任務,怎麼去給他提供反饋,然後最終把這不同的塊去拼成一個完整的系統性的這種data solution一個方案可能你會有幾大塊,包括模型啊,包括分析等等等等就是怎麼樣去把它有機的去融合在一起吧。
Stella: 在你的工作環境當中的其他data scientist或者是data analyst和你一樣嘗試這些AI tool的人多嗎?
響歌歌: 其實我觀察到的不是特別多,但我其實也不知道為什麼大家可能還沒有廣泛的去adopt.可能還是說,有一個慣性吧對,因為畢竟我覺得這個工具還沒有在企業的層級上推廣開來。
響歌歌: 站在個人角度,可能我就沒有這個動力去改變我現在的一些workflow.
Stella: 你是,在8個小時之內,幹了更多的活呢還是一定量的workflow花了更少的時間去完成?
響歌歌: 我覺得是會提高效率,提高挺多的效率。然後剩下的時間可能會有更多時間去做一些深度的strategy的思考吧就包括說我下一步應該去挑哪個項目做,然後我這個項目應該有這些洞察,有這個solution中怎麼去推是最好。
響歌歌: 就會有更多時間花在非技術的那方面吧就可能是全局的這種戰略布局的時間就現在可能會block半天去想這些問題,但原來可能每一天更可能更多的時間就80%時間還是在做technical的事情,但現在就可以把這個比例降一降更多的時間去想可能怎麼做,去define what and why.
響歌歌: 讓AI去做這個好去提供solution.
Stella: 你剛才也提到。現在你有一部分的工作。重點是有了AI幫你生成了這些analysis.之後你,作為一個DS,你要去判斷這個analysis是不是足夠的好。
Stella: 你要去evaluate你覺得在現在的這個有AI的時代,如何去培養這種能力呢?就如何去培養,evaluate已經生成的analysis是不是good enough的能力?
響歌歌: 對啊,其實我覺得這個問題可能要追溯到一開始。怎麼去定義一個問題?
響歌歌: 給AI布置任務。當一個實習生幹不出好活,那我覺得大概率原因是因為你,老板,布置的不夠好。
響歌歌: 總不能就是你不能期待你給他一句話,他就能讀懂你的心,然後讀懂你所有的業務的需求,然後就給你做好,做得非常完美,給你返回來。
響歌歌: 就算是人也不可能做成這樣子的嘛,所以還是更多的你要他deliver的好,更多的是前期,你要給他足夠的context,足夠的上下文,然後一些比較defined的東西吧。
響歌歌: 而且這是一個iterative的process,並不是說可能你讓他做,做完了,然後就evaluate一下。好,我就採納。不好我就不採納其實更多的還是一個不斷的去迭代的過程。
響歌歌: 大部分時間他可能產出的東西可能只有50%能用那。我就keep那。取其精華去其糟粕吧。
響歌歌: 就keep那50%。然後剩下的就讓他繼續去迭代其實也就跟我們帶實習生一樣的。你不可能期待他都做的完美。
響歌歌: 更多的是一個前期,去給他布置任務。要布置的好,做一個好,老板吧。
響歌歌: 然後後期,要給他足夠的反饋讓他去繼續去迭代
Amy: 那如果現在有人他還想要轉行進去做DA或DS,你會怎麼建議還是一個好主意嗎?
Amy: 如果還是想要走這一行的話你覺得需要學什麼東西。
響歌歌: 這個問題其實我也想聽聽你們的想法,因為我也經常被問到這個問題然後之前有一個代的junior被裁了。
響歌歌: 之後他也過來問我說我之後要不要再繼續做DS,因為他其實才剛畢業,不到一年他還是轉行的話沉沒成本,沒有那麼高。
響歌歌: 我感覺。我個人的判斷就是說現在,如果還沒有入行的人,可能不是一個特別好的時機再轉到一個DS或DA,因為畢竟每個人都要經歷過一個新手村的時期嘛。
響歌歌: 而在新手村裡,很多時候你都是在做那些比較重復性的,比較簡單的活,但是現在可能就AI來了之後,未來幾年就這樣的活會大量。
響歌歌: 減少也就是說你會被逼著不經過這個新手村,你就必須得成為一個大人了。所以說,我覺得不是特別友好。
響歌歌: 然後,總體來說,就崗位的數量也會有一定程度的下降。
響歌歌: 所以說,如果一個同學他是真的只是覺得 ds和da好找工作,那我覺得可能不是一個特別好的方向那。
響歌歌: 如果你是真的很喜歡data,很喜歡用data去support的一個business decision,我覺得還是可以轉的,因為之後對data的需求還是會有的特別是可能對有業務能,力嗯商業思維的數據分析師和數據科學家還是會有的我覺得這個需求會一直存在而且越來越多。
響歌歌: 就是可能偏業務向的那個方面的對。我覺得overall,如果是新轉行的,可能不太推薦,除非你是真的特別的對data感興趣的。
Stella: 我一般現在不太推薦任何人把analytics作為唯一的技能。比如說一個marketing背景的人,他想去學data science或者是analytics的。
Stella: 這些技能或者學這些tools或者是有一定的目標別的domain knowledge的人來學這個技能,學這個工具的話,我是覺得非常好的。
Stella: 我覺得它可能在我看來,在未來會更加的成為一個common sense,就像我們現在大家都用Excel一樣,但是如果說一個人他的這個comparative advantage就是data analysis,就是去寫sql query的話,我個人是覺得這個會越來越難,越來越難找到工作。
Amy: 我覺得應該學會當一個好的PM,不是說你就要去找一個PM position,就像翔哥哥講的,業務能力還有對產品的判斷,其實比你會不會寫這些sql query-重要,因為你要先會那些,然後sql query你可以叫AI幫你寫,然後你可以慢慢的跟AI一起學,但是對產品的判斷,這個是很明顯的,AI它還沒有辦法有一個全局的考量。
Stella: 我有一個問題啊。現在,響歌歌,你是用了很多這些AI tools去完成你的工作,然後你的工作也很多變成了去呃frame problem這種類型的工作那。
Stella: 你覺得你現在所做的和一個,比如說,懂一點data然後也同時會使用這些AI tools的pm相比這兩方各有什麼pros and cons呢?
響歌歌: 對。這是個好問題。其實。我覺得這個技能維度可能是類似的就是你都會數據思維然後都有業務能力,但我覺得他每個維度的技能值是不太一樣。
響歌歌: 我覺得我比起pm的話可能因為對數據方法還是有比較深刻的了解就大概能使用的這個工具箱更多一點吧。 AI它畢竟還是需要你給它一些guidance,就是說你給它布置一個任務然後大概告訴它說你要用這個工具去解決這個問題。
響歌歌: 那我可能比PM更多的一點就是我的數據工具箱更多。我知道可能這個時候我應該用supervised learning.
響歌歌: 那個時候用unsupervised然後什麼時候可能用某種algorithm然後什麼時候用某種方法,就可能會解決的範圍更大然後也更系統一些吧。
響歌歌: 我覺得PM的話它可能是業務能力的那個數值會更高一點,但它對data可能就是它可以通過自己的去跟AI合作去看一些what's happening.
響歌歌: 就是現在一些數據的基本情況,但是它可能沒有辦法更深入的去做一些比較復雜的分析。
Stella: 如果是data science背景的人,他知道我的這個DS2 box裡面有什麼什麼時候應該使用什麼工具。
Stella: 這種能力聽起來會是在AI時代的一個comparative advantage那這種能力你覺得對於新入行的人?他們有可能獲得這種能力嗎?
響歌歌: 我覺得確實就是因地制宜的使用。toolbox的能力是挺重要的。
Stella: 我問這個問題是我也有一樣的困惑。這個行業對於新手可能不光這個行業。很多行業對於新手的需求越來越少。
Stella: 是因為需要的這些能力。聽起來並不是你在學校學完幾年課程,出來就能獲得的他是需要去通過實踐獲得。
Stella: 但是如果這些人,他根本就沒有實踐的機會,他如何獲得這些能力呢?
響歌歌: 那只能去找實踐的機會了就是去多實習然後多去跟別人交流。我覺得這可能是在學校裡就。如果現在有在學校裡在煩惱你未來還要不要選DS或DA.
響歌歌: 這個方向的是同學們最好的途徑。就是可能走出去吧跟別人多交流一下。看他們在用什麼樣做解決什麼樣的問題還有自己去做一些實習。
響歌歌: 我覺得可能是我能想到的比較好的方法。
Stella: 這樣說起來可能就是對現在的這些 data science programs可能也會就是要求這些programs要跟著evolve.
Stella: 因為他就要求你在把這些學生送出學校的時候,你就要get them ready不光是教他們說我怎麼去寫model,而是更多的說什麼時候該去什麼使用什麼工具。
Stella: 就是這種更加hands on的經歷了。
響歌歌: 是的 Stella,你在學校裡會接觸這樣子的項目嗎?我一直有一個疑問,就是學校,因為我已經畢業很久了嘛,就不知道。
響歌歌: 現在學校他教的東西是會落後於業界很多年的嗎?
Stella: 我覺得,對於整個Tech來講,可能都有這種情況。我和Amy其實也聯系了一些在高校的老師之後會來上我們的podcast,這個也是我想問他們的問題之一。
Stella: 就是你在跟業界比,你更少的錢,更少的resource,學術界要如何去從哪一方面去突破,這個我也是很好奇。
Amy: 嗯,我也蠻好奇。可是這也沒有一個很快的解決方法,因為這些技術在進步太快了,學校也不可能說外面有一個hype,我就馬上把它納入我的syllabus,因為它還不能確定這是hype還是trend,那在決定以前,它把它放到syllabus裡面就比較不負責任嘛。
Amy: 我能想到一個比較好的方法,只有那種鏟學合作吧,就是學校require學生去上一些課,然後它是必須either學校幫你connect到真正的公司去幫忙做實習。
Amy: 給一些 domain knowledge, 不然就是學生自己去找,然後可以來抵一些課 co-op的形式。
Stella: 我其實以前有做過這樣的項目。 我在公司的時候有和當地的大學他們也是這種類似的 data science program 來和我們一起合作,合作過幾個組之後就發現有的同學 他是真的就是覺得抓住了這個和 industry 合作的機會。
Stella: 他會想更多的去了解這個 context,更多的去了解業界到底是在怎麼做事情的。但是有的同學就還是把它當成一門課來上最終的我是要拿到一個好的 grade.
Stella: 如果是這樣的話,其實就有點可惜了。
響歌歌: 突然想起來。我之前去加拿大的時候就看到 Waterloo 他們會有 co-op 的 program.
響歌歌: 他們是非常重實踐的就好像每年有一半的時間。我記得都必須在外面工作對,我覺得其實他們那個形式就還挺好基本上。
響歌歌: 很多同學一畢業已經有兩三年工作經驗,因為他們每年都要花一半的時間去在外面實習然後也很多人可能就在實習過程中就就換專業啊什麼的我覺得其實以後確實可能像Amy你剛才提的那個就以後可能把產學結合就會變得更加重要。
響歌歌: 特別是在技術發展越來越快的時候怎麼樣說你學的這些東西不僅限於是書本上的,而是說真的你可以去觀察業界大家是怎麼用的就還沒講沒踏出學校門你就已經可能怎麼說就是去要提前的預備好吧,就是去了解一下業界的情況。
響歌歌: 這樣子可能才能真的說做到說你學的東西是真的能用上的而且包括你做完口誤不再回來,你又可以更針對性的去調整你的課程,是一個相輔相成的一個過程吧。
Stella: 現在的New Grad 好難啊。我們當時畢業了出來,就是也是什麼經驗都沒有,但是還是能找到工作,然後在工作中積累經驗。
Stella: 現在的再進入這一行的人,真的是不容易。
Amy: 其實一個行業它是成熟化,就是這樣的。你比如說我在上大學的時候,很多人他進去,他就知道他要去做Finance,去做Consulting。
Amy: 那個是一個很成熟的職業發展的道路。所以他們大一大二就一定要怎麼實習,怎麼就要爭取Certain。
Amy: 某一類型的機會。他們之後發展才會順。所以現在我們這個行業有點像這樣就是你在學校裡面就一定要先鋪好路了,不然出來會顯得很沒有準備。
響歌歌: 不過這個也側面說明他那個行業發展到一定周期了。嘛,肯定都有一個朝陽期, 有個成熟期就可能確實像Amy說的已經到了成熟期那。
響歌歌: 我也好奇想聽一下你們的意見。有沒有看到一些正在朝陽期的職業就那些可能是對新入門的人會比較友好。
響歌歌: 你不太需要太多的經驗,因為業界沒有那麼多supply的這種類型。
Amy: 朝陽期其實就是AI,這種東西。我講這個是因為我之前面試一些人,其中一個人。
Amy: 他其實沒有什麼coding的經驗。他學coding六個月。然後他說我build了一個就是如果把job description丟進去,他會自動 Analyze說你的履歷跟這個Job Description有什麼好優化的到底合不合適?
Amy: 它其實就兩個Input然後它後面可能有個Prompt把它這樣連起來然後做一個就兩頁的UI然後也不是特別好看,因為它就是Coding學了幾個月。
Amy: 它就把這個東西做起來了。那我看到這個就其實比很多其他有很多年經驗的人出色。嘛,因為我們在找AI Talent的時候看到這個你End to End了然後你Prompt、你API,你甚至UI、Front end都自己都搞起來了,然後它還有Password你要Password才能進去。
Amy: 所以我看到這個Portfolio就覺得它用六個月的時間屌打別人幾年的經驗嘛,因為它現在需要找的是AI這個入場點。
Amy: 那它就完全跳對了。
響歌歌: 那你覺得它讓你印象深刻的,可能更重要的原因是因為他找到了一個現在行業正在上升的地方就你們正好需要這方面的人才,但沒有太多supply還是說他,這個人本身的proactiveness就通過六個月自選。
響歌歌: 你覺得這兩個比重可能哪一個更重要一點就讓你覺得非常impressed.
Amy: 嗯,我覺得是motivation嘛。還有,他就是純粹的解決一個問題然後他更純粹是他純粹解決一個自己的問題,然後他用到最好的tool.
Amy: 他不會去想說我是不是還要再上三節課,我再去做這個東西。他就直接做了然後也做出來了。
Amy: 所以這種解決問題的能力就顯得很寶貴嘛。因為現在,當這些LOM,新的tool出來的這麼頻繁,你沒有時間再等人去設計一個課給你上了。
Amy: 你就是直接用,然後會用,就行了。那個tool會一直改版你就跟著一直進步你就上車了。
Amy: 但你如果在想說啊,我還要再上幾節課再研究這個東西讓我可以成功,那就太慢了嘛。
Amy: 所以我看到的這個 motivation然後他也完全沒有被 distracted.你很容易想要錄 tech,很容易被其他一摞一摞的就是說啊,你得上這10節課然後你就可以怎麼,怎麼樣。
Amy: 他都沒有被那些 distracted.他就直接就做了。
Stella: AI現在肯定是一個朝陽產業,但是我不太確定的是這個行業它的朝陽期會持續多久,因為AI這個行業也確實是發展得很快可能很快這個行業就會飽和然後他會更快的進入成熟期。
Stella: 也是有可能的我是覺得。
Amy: 我面試那個人的時候大概是半年多前。那時候我覺得可能還早上10點。現在我覺得已經下午2點了。
Stella: 已經快了。
Amy: 對,我覺得已經下午2點了。
Stella: 就是LLM除非你是去做foundation model,那確實是技術barrier還是很高的,它是有很高的技術壁壘。
Stella: 如果是做LLM application的話,它其實沒有那麼的難。我和Amy其實昨天還在討論這件事情,你包括現在去看一些這個領域比較前沿的學術文章,很多papers,它的想法其實很簡單的。
Stella: 說起來,可能甚至不如一些,比如說復雜度或者說數學上的難度,不如之前比如說statistics或者是machine learning,這些方向的一些學術研究。
Stella: AI這個行業真的是move的特別的快。
Amy: 我覺得可能是把一個東西做到70分還蠻簡單,但是最後的30分就很難。但你得想辦法把自己很快的到其實那裡,然後跟大家一起走之後的30.
Stella: 我還是很鼓勵大家都進入這個行業,還是很好玩的。
響歌歌: 我個人感覺可能還沒到下午兩點,因為我們自己在做這種大模型產品的時候發現說可能用戶對這個接受度還沒有那麼高,包括他還不習慣用這樣子natural language的方式去interact.
響歌歌: 我覺得他可能在現在是基礎端有很大的breakthrough就把基礎大模型查。但是有很多,很多可能生活中這種小use case他可以用上,但是還沒有用上。
響歌歌: 包括大家還不習慣用上。就有很多這種常委的應用。我覺得應用端還是有蠻大機會的然後門檻可能也不高。
響歌歌: 所以如果去走應用這條路,是否會有一些不錯的機會可以上車。
Amy: 我覺得有吧。問題是現在人也越來越多了這樣講好了,就是我們大概快十年前進入DSA行,他人變得太多。
Amy: 有一定就是四五年的累積,然後我們才意識到說喔,現在DSCandidate好像有點功過於求了,但AI這個部分,因為他有點太火了,然後他的entry的barrier其實比較低。
Amy: 然後其他的工程師啊或者是PM啊,他自己會寫prompt啊,這些人他都會來玩一玩,所以他會迅速的到達一個喔,好像有一點供過於求了。
Amy: 我們不能說是市場已經figure out AI怎麼做application了,可是我們現在出去hire我就可以很多人來說他會call API,那就可以上了,然後這些人的高度跟深度其實差不多。
Amy: 那能力不會差太多,因為這個東西才一年半而已嘛。
Stella: 坑被填滿的很快。這個確實是,雖然大家還在摸索最終如何落地做出成熟的產品的這個過程。
響歌歌: 對啊,這個我覺得還是今天挺重要的一個take away就是你們提到說從0到70%。
響歌歌: 這個過程會很快就大大壓縮吧就比以前其他那種熱門的像DS啊或者馬龍,那個領域的時間會更快其實大家應該都要趕緊從0到70然後剩下的起怎麼到70到100?
響歌歌: 其實可能更取決於你這個人的idea還有motivation就可能像那位南美的,那位Kennedy一樣,可能更多不是技術,能力能夠讓你真的去close the remaining gap.
Amy: 那我覺得我們三個人都有點像現在開始有點在做數據博主類工作算是一種職業的,算是副業吧,然後也是一個distraction。
Amy: 那,響歌歌,你覺得你做這個有什麼感想?你會想要以後多投入在這方面嗎?
響歌歌: 我覺得還挺感恩這個經歷吧。我覺得首先是有情緒價值,就是當你發現你說的內容有人聽的時候,那種感覺會有情緒價值,你覺得很有滿足感。
響歌歌: 我覺得首先就已經覺得開心了。然後,其次,我覺得它對主業其實有反補的作用,因為我會發現說我必須要去輸出東西,那我就得去倒逼我的輸入,而且我也會想說要做不同的內容,必須跟不同的人去交流。
響歌歌: 包括可能也因此會跟Stella和Amy去connect上,然後去聽你們的想法。所以我覺得其實是1加1大於2的一個作用。
響歌歌: 我並不覺得它是一個distraction,而且平時總結這些想法下來我覺得反而是對。我有一個沉澱思想的作用吧。
響歌歌: 寫文章,拍視頻去把你的原來可能嘈雜的這些想法都把它梳理清楚,整成非常organized的思路。
響歌歌: 我覺得也是一個對工作反而是有幫助的一個過程。所以我沒有感覺到它是一個distraction,然後至於會不會繼續投入時間。
響歌歌: 我覺得是希望自己能持續保持吧,因為我覺得我有時候就狂跟一個月,然後就停一會兒。到現在沒有說很持續性的可能,每一周發一篇。
響歌歌: 我希望自己能夠更加自律一點吧就持續性的輸出然後可以連接到更多人。我覺得這個就是我的目標。
Stella: 那對於我們兩個剛剛進入這個領域的人有什麼建議嗎?
響歌歌: 雖然你們剛剛進入,但我覺得你們已經展露出了大博主的潛力,因為也不是大博主吧,就是優質博主因為你們首先內容很真誠啊。
響歌歌: 我覺得真誠是必殺技就不是為了漲粉才發的一些東西。發的東西都是你們有感而發而且是沉澱下來,就是你想盡你所說的。
響歌歌: 所以我覺得很真誠,很能打動人然後對。而且你們漲粉也漲的很快的對。
Amy: Stella覺得一點不夠快啊。
響歌歌: 我覺得挺快的了呀現在這麼捲。
Amy: 有兩個人覺得不夠快。一個是Stella,一個是Amy的媽媽覺得。
Stella: 對, 因為我其實是心裡有默默的立一個flag.就是我有一些朋友我有告訴自己說等我粉絲長到什麼,什麼的時候,我要去找他們聊,找他們來上我的podcast,但是就一直還沒有到那個數量。
響歌歌: 那你訂的目標是多少難道是10萬嗎。
Stella: 倒也沒有。
Amy: title裡面有數據還可以長到10萬?我覺得還蠻強。有些人看到數據,可能就filter掉了。
響歌歌: 我覺得我看到最多的數據博主可能也就3萬吧。
Amy: 哦, 是嗎。
響歌歌: 因為確實是一個比較窄的領域。除非你們以後可以pivot就變成把數據去掉。
Stella: 女孩的中年危機。
響歌歌: 中年女孩的女孩的焦慮對類似我覺得這個可能會比較能火,就是因為我覺得29, 30歲是一個卡大家都會在這個階段會有一些焦慮,之後就可以把數據去掉。
Amy: 我覺得不是年紀的問題。比較像是就行業走到這裡了。
Stella: 嗯,我覺得更像是行業的周期啊。現在就找人聊天。這件事情,即使是不長粉對我們來說也還是非常的有收獲的。
響歌歌: 對啊,我覺得也很認同這個點吧就我有一段時間可能完全為了數據就想說會有數據焦慮就po一個東西看長多少粉多少點贊,但那樣就會失去了這種全情投入的快樂對,我覺得還是跟人聊天就是能夠沉浸在這種思想的碰撞裡邊是最快樂的就比可能漲粉多少,我覺得還是要有一定的。
Stella: 對, 我和Amy其實大概知道什麼樣的內容可以漲粉。就有點大言不慚,但是就是就我們自己發過的東西。
Stella: 然後我們其實自己默默地做一點analysis.我們大概知道什麼樣的會吸引更多的流量,但就覺得還是不是我們想做的東西。
Amy: 你可以販賣內容啊,你也可以販賣焦慮。但是希望就是用販賣焦慮的方法進來的朋友。
Amy: 他可能看久了,聽久了,他的心態可以比較。
Stella: 平和一些。
Amy: 對 比較平和一些。
響歌歌: 對啊。 我覺得非常好就是聽了你們兩期的播客,就感覺有治愈的力量。
Amy: 你最喜歡哪一期啊?
響歌歌: 我現在是只聽了前兩期就後面你們新發那個Zendesk我也很想聽,但現在還沒有聽。後面那幾期都沒有聽。
響歌歌: 還有一個做蛋糕。那個周末做蛋糕要需要補一下課。
Amy: 誒,那響歌歌最後有什麼問題想要問我們兩個嗎?
響歌歌: 你們現在做的AI大模型的項目吧?對,就可能想了解一下你們現在都是在做哪些內容然後有什麼觀察吧?
響歌歌: 有什麼感想?
Amy: 我其實有接觸到的大概是兩個領域吧。一個是客服的領域。那客服,LLM剛出來的時候大家都覺得這個是最直觀,最快速會被取代的行業。但是現在已經過了一年半了其實真的能夠說做好的 Adoption還是沒有上去產品很多做出來了,但是你會發現很多所謂的現在叫AI tourism這是現在SaaS產品。
Amy: 最大的問題就是很多人就來白嫖誒,我來用一下對不對,然後有關系,沒關系,我就用你的AI,問兩個問題然後試一試。覺得很酷,我寫一個blog,漲幾個粉,然後我就走了。
Amy: 所以AI tourism算是一個蠻大的問題。所以跟傳統的SaaS產品就會有差別,因為你會有人來,但是全跑了 Churn的這個model根本跟以前就都不一樣了。所以客服的產品就有一個很大的這種問題,因為你現在去搜AI chatbot其實很多,很多的公司在做這個,但是怎麼把剛才講的大家都做到70了。
Amy: 怎麼把最後的30做好然後讓你的客戶能夠安心的去用你這個產品是一個最大的挑戰那。另外一個有涉獵就是有在討論的領域是影片方面的。
Amy: 這個算是可能比較長期吧。就是multi model.現在的還是處於說把影片轉成transcription然後去做一些分析啊,indexing啊。
Amy: 我看你能用什麼Prompt去做一些Content Discovery的東西,但是長久來看它是一個Multimodal,它有Audio、它有Image 然後它也有Video Content Generation是一回事,但是你要做Content Indexing這個就我覺得會顛覆很多以前的做法。
Amy: 這等於是把YouTube重新做了我覺得。所以我大概就是有在想這兩個部分的應用。
Amy: 那我個人還蠻喜歡看各種各樣的AI產品的。也很喜歡看說它出來的時候很厲害。後來怎麼就沒有聲音了,哈哈哈哈,對。
Amy: 所以事實證明說無論你這個應用聽起來怎麼的Obvious,最後的30是很難做好的。反倒,本質就是還是要把User Experience做好。
Stella: 我做的AI相關的項目其實有很大一部分都跟Amy剛才說的類似。其實是類似於customer service,只不過是可能在不同的context.
Stella: 這個其實也是整個業界就是大家最看好的LLM的應用的領域之一。所以你基本上跟很多人說,在做AI,做LLM的人基本上都是在做這一塊,只是就是不同的應用場景。
Stella: Amy剛才說的這個70%和30%的這個比喻對我來講,我的理解就是你要找到一個非常合適的use case和你的這個design.
Stella: 你要是怎麼去de risk你那30%的不完美或是你那30%的不確定性帶來的一些威脅吧,或者是一些危險。
Stella: 這個可能是我覺得現在在做AI產品,大家,包括我們自己也在花很多時間理解和考慮的問題。
Stella: 除此以外,還會去做一些 Evaluate large language model的這種項目那比較傳統的,比如說Red teaming,就是一群人拼了命的去attack一個language model或者是這種類似於A B testing的這種 Human evaluation比較傳統的方法還有就是以這種Stanford HELM framework,就是Holistic Evaluation of Language Model.
Stella: 這個framework下做的一些algorithmically去Evaluate language model的一些方法就還是涉及到我們說應用AI,應用large language model的時候所涉及的這些risk,你怎麼去Evaluate它?
Stella: 你要先有一個比較真實的理解了。之後你才可以去有針對性的去解決這些問題, Either是通過improve你的model或者是通過你的產品設計。
Stella: 還有一些就是比較小的 cute 的 project就是我剛才說的設計了一個完整的 workflow怎麼去處理 user 的 data request然後包括你整個 requirement gathering 的這個 process通過 language model 去實現到生成 SQL query然後到你的這個 analysis summary然後 QA 整個這個 flow 的設計去用 language model 做一個其實是 multi model agent 的這麼一個設計去解決這些問題。
Stella: 還挺有意思的就是我一直就跟很多人講我說其實這個東西不難,但是可能更難的是你如何去找到一個這樣的機會去上手,去做 hands on project.
響歌歌: 那你們覺得就是怎麼樣可以快速地從 0 到 70 呢?因為像 Amy 和 Stella, 你們都已經算是從工作中開始上手做這樣一些應用了然後可能就是自己學習然後工作中學習已經差不多到了 70 那個程度。
響歌歌: 那如果像一個剛入門的人,他怎麼快速地去學習這個大模型的開發呢?
Amy: 兩個方法看你的個性還有你的特長一個是就是先做。一定要先做一個。可能你也不太會Coding,但是其實做這種AI項目你也沒寫幾行代碼,你就可以做完了。
Amy: 做一個有一定的感覺的Project就做完了。所以第一是一定要先做做看。
Amy: 第二就是我覺得想要到70%。你不一定要Code,你可能比較像是做產品方面的思考然後去,因為你可以去想像說那些Code是怎麼發生的。
Amy: 你不一定要當Coding的那一個人。你也可以就是 Get into AI產業 In this way 就是你不一定是當AI engineer,可能當AI product manager或者是TPM什麼。
Amy: 看個性啦呃, 我個人是覺得做。產品方面的思考現在會比較有意思。這只是我個人的意見。
Amy: 但如果你就是喜歡Coding,你喜歡去figure out這整個 AI,新的infrastructure的話,那就先做,做看,然後再做得更深, 做得更好,怎樣evaluate, 怎樣更stable?
Amy: 你不知不覺,你就要70%了,真正要到70%還是要換工作吧?
Amy: 就是你要是你很在的公司很AI adoption算是它的一個priority,它就大家願意開始做的話,那是另外一回事。
Amy: 但你的公司可能還沒有到那個地步,或者它可能package比較多的話,你其實很難馬上到70的。你只能在那個場外看看,說,啊,怎麼回事,我試試看。
Amy: 但是你沒有做產品的話,就沒有壓力嘛,你不用到70.你好像也會了這樣。
Stella: 我覺得AI或者是Large Language Model,這個領域對於有data背景,不管是analytics或者是跟PM modeling, machine learning,這樣的背景的朋友來講,其實真的沒有那麼難進入。
Stella: 很多時候,我覺得就是你開始做,或者說先開始去了解這個業界的一些信息。
Stella: 我和Amy其實最近開始有做一個weekly newsletter在substack上。我們每周會把自己看過的一些LLM相關的blog post啊,或者是一些有意思的video都會放在這個weekly newsletter裡面。
Stella: 大家可以看一看,看一看。我們看過的一些文章都是什麼樣的風格。
Stella: 可能你看過之後就覺得會有一定程度的趣味,就覺得這個領域其實現在做的東西當然是非常有趣,但它其實沒有那麼難懂。
Amy: 今天我們就聊到這裡,大家拜拜。
響歌歌: 拜拜。
Stella: 大家拜拜。
響歌歌: 謝謝。