「倫理OR私益は究極の選択である」とピーター・シンガーが言っているのはその通りだと思います。

ITやAIで主観的な不幸／幸福の特性を解析して、それをベースに「善」という概念を客観的に求めること自体は出来そうですけどね。
それが各々の倫理観にマッチングするかどうかという問題はありますけど。