基于人工智能技術的算法，通過將輸入數據轉換為所需輸出決策的編碼過程，從海量原始數據中提煉出解決問題的邏輯與經驗，從既有知識中產生新的知識和規則，形成比人工分析更加快速和優質的預測性判斷，進而推動人類在社會、市場、政府等各領域的決策和治理機制嬗變。當前，由算法驅動的自動化決策被廣泛應用于工作、教育、醫療、信貸、刑事司法等諸多領域，給人們帶來極大的便利和效率提升。然而，由于算法所依賴的人工智能機器學習技術在數據集構建、目標制定與特征選取、數據標注等環節可能混入人類的偏好與偏見，又引起了各界對于算法驅動下決策的準確度與公平性的疑慮。如何避免來自人類社會的不公和歧視通過代碼和算法被固化或放大，如何防止算法世界的偏差反作用于現實世界，以及如何設計算法以保障和實現公平等問題亟待人們去研究和解決。

9月14日，美國布魯金斯學會在其官網發布了高級研究員阿列克斯·恩格勒（Alex Engler）撰寫的研究報告《在大學招生錄取中采用自動化算法或將引發美國高等教育危機》（Enrollment algorithms are contributing to the crises of higher education），就大學招生這一與公眾利益密切相關的領域采用人工智能算法所引發諸多問題進行了分析，并提出了控制算法融入招生管理相關風險的行動要點。

阿列克斯·恩格勒（Alex Engler）指出，許多美國大學正在使用人工智能算法及系統來進行招生錄取和獎學金分配的自動化決策，希望通過先進的技術手段招攬更多合適生源，并更精準地預測學生的學費支付意愿和能力，以制定更科學的獎學金發放方案。這種做法對大學提高學費收益率和改善財務狀況能產生積極影響。然而，也有證據顯示，目前被廣泛使用的幾種招生管理算法都有可能會損害學生的利益，降低一部分學生繼續學業和順利畢業的可能性，甚至將加劇美國高等教育業已存在的畢業率偏低、學生債務偏高和歧視少數族裔等潛在危機。

大學通常期望在算法供應商的幫助下能實現吸引更多學生入學，提高學費收入，以及合理控制獎學金支出規模等多重目的。除了極少數著名大學擁有捐贈和其他收入，大多數美國大學都需要依靠學費收入維持運營。因此，各所大學都在竭力吸引和錄取足夠的學生。同時，這也意味著大學既要發放適當數額的獎學金來吸引申請人，又要控制發放規模以避免影響學校開支。引入人工智能算法可以對每個申請人的綜合情況進行清晰打分，并根據統一標準測算出與之相匹配的獎學金方案，或者說，能最大限度增加其入學可能性的獎學金額度。

大學招生管理中對算法的使用通常包含三個過程：一、采集申請人的有關信息數據并輸入模型，以預測其入學可能性；二、分析評估其經濟能力，以制定相應的獎學金發放方案；三、對算法給出的預測結果和建議進行優化。在第一個過程中，校方會把申請人績點（GPA）、標準化考試分數、已獲得資助情況，以及居住地和人口統計信息等盡可能多的數據輸入算法模型進行測算，常會應用到機器學習的邏輯回歸、決策樹及神經網絡等技術手段。在過程二中，算法除了會給出獎學金額度建議，還會提供不同獎學金額度對擬錄取對象入學可能性的影響分級，并從總體上預測新學年可能的入學人數和預算規模，作為獎學金發放的決策參考。在過程三中，算法將根據輸入模型的所有數據，結合大學設置的一系列限制性條件和優化值，自動產生了至少數千種策略，并就各種策略進行嘗試和比較，以得出一個最佳方案。對大學來說，這樣做不僅可以更精準地分配有限的財政資源，還能減輕招生辦公室的錄取審核工作量，節約時間和人力成本，可謂一舉多得。

然而，阿列克斯·恩格勒（Alex Engler）認為，這樣做也將導致不少問題。首先，招生管理使用算法的目標之一是推動申請人以能夠支付的最高學費，或愿意接受的最低獎學金來就讀該大學。供應商圍繞此目標開發的算法必然會拉高處在自身支付大學學費經濟能力邊緣的申請人的數量。這就在無形中加大了申請人日后遭遇經濟困難而不得不中斷學業的風險。其次，由于大學對財務狀況的看重，供應商開發的算法將會偏向于盡量精確控制獎學金發放規模，這實際上會減少每個申請人能獲得的獎學金數額。與此同時，校方竭力尋求收入支出最優比的做法可能導致算法偏差，令某些特定申請者群體（如少數種族、婦女、殘疾人等）受到歧視性對待。這就背離了利用獎學金來支持學生完成學業、取得成功的初衷，并加重了當前存在的大學生高負債、低畢業率的困境。

在阿列克斯·恩格勒（Alex Engler）看來，通過算法實現財務上最優化的招生結果本就不應當被視作大學招生管理的終極目標。大學錄取的衡量標準不該過于偏向申請人的支付意愿和能力。獎學金發放的價值取向須將擬錄取對象的經濟支持需求放在首位，重點考慮如何支持其學業成功。在此基礎上，他進一步提出了控制算法融入招生管理相關風險的若干行動要點：

記錄算法過程：大學應該全面地記錄算法招生管理中所使用的目標、原則、過程、數據和算法。預期的結果應該在算法開發之前予以明確說明。

考察歷史數據：大學必須仔細評估和考慮他們建立算法所依據的歷史招生數據集，以確保符合未來可持續發展的需要。

評估學生成功率：大學應該經常評估在收益優化算法給出的獎學金發放策略之下學生的學業延續率和畢業率，以及時校正算法。

使用可解釋的模型：大學應該選擇更易解釋的預測模型類型，如邏輯回歸和決策樹，而不是黑箱模型，以降低出現意外和不公平的算法結果的可能性。

進行算法偏見審計：開展算法偏見審計并公開審計結果將有利于提高透明度，并緩解公眾的擔憂。

以人為本的錄取評價：在對申請人進行綜合素質打分排名時，大學不應過度依賴標準化考試成績、GPA等指標。志愿者服務、課外活動成就、工作經驗、抗挫折能力等因素都應被納入衡量標準，作為分配獎學金的依據。

恰當地使用約束條件：在使用算法時，大學需要通過制定合適的約束條件來保持學生多樣性，以實現獎學金在不同學生群體中的合理分配。

聘請內部數據專家：大學不應完全依賴供應商來了解招生管理算法，因此需要雇傭能夠研究供應商所提供方案的內部數據專家，以確保算法的使用與學校目標相符。

設法維持學生的經濟支持：在使用算法的招生管理中，大學可以尋求更有效地獎學金分配策略，但不能因此降低每個學生的經濟支持力度，并采用多種手段幫助學生避免學業中斷。

此外，阿列克斯·恩格勒（Alex Engler）還提出，美國教育部等公共部門也可以對算法融入大學招生管理實施積極的監管和治理，包括委托獨立的第三方評估招生管理算法的使用情況，發布關于招生管理算法的最佳實踐指南，促成大學之間的財務數據交流，提高對公立大學的資金支持等。

無論是教育或其他領域，在人工智能和算法日益代替人類進行各種決策的數字時代，多重因素決定了算法并不必然公平，但絕不可放任機器產生的偏見和有害性結果通過代碼被固化在社會結構中。構建完善的算法公平性驗證、知情同意、透明度、問責、救濟等治理機制，引導算法盡量朝向公平，已成當務之急。