I en alder af fem år flyttede Serj Tankian med sine forældre til Los Angeles i Californien. Som barn tog han sanglektioner i fire år samt guitar. Serj endte på en armensk skole, kaldet Rose & Alex Pilibosl. Efter high school studerede han marketing. I 1993 stiftede han bandet Soil med Daron Malakian som senere splittede op. Serj og Daron lavede derefter et andet band ved navn Victims of a Down som var navngivet efter et digt Daron havde skrevet. Serj mente dog at Victims skulle ændres til System fordi ordet føltes "stærkere."

Serj Tankian er også venstre-orienteret aktivist, og kæmper mod uretfærdighed og vold. Den 13. september 2001, to dage efter angrebet på World Trade Center, skrev han et essay på System of a Downs officielle hjemmeside, hvor han beskrev og kommenterede situationen. Essayet blev kaldt Understanding Oil[1], og blev kort tid efter slettet fra hjemmesiden af Sony, da mange af læserne misforstod budskabet. Serj Tankian er desuden vegetar og fortaler for dyrs rettigheder, og har medvirket i en flyer om vegetarisme for Anima og PETA.