Voy a responderte un poco a lo que ha querido decir
#2 , pero más detalladamente. El serialismo (para hacer música serial), lo que puede implicar varios sistemas como el dodecafonismo o las multitónicas. No sé si es lo que buscas, esta música tiende a ser mucho más disonante y compleja lo que da fruto a sonoridades mucho más difusas.
Los mejores ejemplos que se me ocurren son Arnold Schoenberg y John Coltrane, aunque por supuesto hay otros como Ron Jarzombeck, Chick Corea o Allan Holdsworth, que también usan estos sistemas ocasionalmente.
Como te han sugerido por ahí también puedes estudiar otras técnicas implícitas en el tipo de armonía que se puede usar en la música occidental (tonal, modal o serial). Como el contrapunto, si te gusta superponer diferentes melodías para crear "una armonía muy melódica".
Si te gusta la composición, también puedes estudiar técnicas sobre como tratar todas las notas melódica sobre un fondo armónico (notas reales, tensiones y notas de paso), que darán lugar a que cada nota esté en su lugar, métodos avanzados de modulación.... También técnicas rítmicas como retardos, anticipaciones, contratiempos, síncopas, polirritmias, polimetrías, rítmos en cruz....