Yang stworzył Yahoo w 1995 roku wraz ze swoim kolegą ze studiów Davidem Filo. Od marca 1995 roku był członkiem zarządu, a w okresie czerwiec 2007 - styczeń 2009 pełnił funkcję dyrektora wykonawczego firmy.
"Mój czas w Yahoo, od powstania firmy do chwili obecnej, obejmował jedne z najbardziej ciekawych i satysfakcjonujących doświadczeń w moim życiu. Nadszedł jednak dla mnie czas, aby realizować inne zainteresowania poza Yahoo. Odchodząc z firmy, którą zakładałem prawie 17 lat temu, jestem entuzjastycznie nastawiony do powołania Scotta Thompsona na stanowisko dyrektora wykonawczego oraz jego zdolności, wraz z całym kierownictwem, do poprowadzenia Yahoo w ekscytującą i udaną przyszłość" - oświadczył Yang.
Scott Thompson, były prezes PayPal, został nowym CEO Yahoo na początku tego roku (więcej na ten temat). Zastąpił Carol Bartz, która we wrześniu zeszłego roku została telefonicznie zwolniona ze stanowiska (więcej na ten temat). Z kolei Bartz została dyrektor wykonawczą Yahoo na początku 2009 roku, zastępując Jerry'ego Yanga (więcej na ten temat).
Yang zrezygnował z funkcji CEO w listopadzie 2008 roku (więcej na ten temat). Jego przywództwu towarzyszyła narastająca krytyka ze strony udziałowców Yahoo, po tym jak nie zgodził się on na przejęcie przez Microsoft, a później zawarł umowę reklamową z Google, która w ogóle nie weszła w życie. Stanowisko dyrektora wykonawczego objął w czerwcu 2007 roku, zastępując Terry'ego Semela (więcej na ten temat).
Odchodząc z Yahoo, Yang zrezygnował z miejsca w zarządzie firmy, ze stanowisk zajmowanych w Yahoo Japan i Alibaba Group, a także z nie do końca zdefiniowanej roli jako "Chief Yahoo".
