안녕하십니까? 한말연구학회입니다.

"-성"은 일부 명사 뒤에 붙여 "성질"의 뜻을 더하는 접미사입니다. 말 그대로 일부 명사 뒤에 붙긴하는데 그 일부 명사의 범위를 딱 잘라 말하기는 쉽지 않습니다. (언어란 게 원래 그래서요).
어떤 말이 문법적이냐 그렇지 않느냐를 판단하는 가장 중요한 그래고 절대적인 기준은 우리들의 직관입니다. 다시 말해서 그게 자연스럽게 받아들여지면 문법적이고 그렇지 않으면 비문법적인 거지요. 물론 거기서 규칙을 찾아내려고 하는 것이 국어학자의 임무입니다.
쓸데 없이 말이 길어졌습니다.
문법적으로 "-성"에 대해서 말할 수 있는 것은 명사에 붙는다는 사실 뿐입니다. 나머지는 우리 직관에 따라 결정해야합니다. 그런데 저의 직관으로는 아무래도 "효과성"이라는 말은 매우 어색하다고 판단되며, 대부분의 한국어 화자들도 같은 판단을 할 것으로 생각합니다. 국어사전에 "효과성"이 없는 것도 그러한 이유 때문입니다.
결론적으로, "효과성"이라는 말은 국어사전는 없을 뿐 아니라, 자연스럽게 받아들일 수 있는 말도 아니므로 쓰지 않는 것이 좋겠습니다.