12 דילמות אתיות המכרסמות את המפתחים כיום

עולם הטכנולוגיה תמיד היה זמן רב בכוח וקצר מחשבה על השלכות הכוח הזה. אם ניתן לבנות אותו, תמיד יהיה מישהו שיבנה אותו מבלי לשקול דרך בטוחה ושפוייה יותר לעשות זאת, שלא לדבר על האם בכלל צריך לבנות את הטכנולוגיה. התוכנה נכתבת. למי אכפת איפה ואיך משתמשים בו? זו משימה עבור מישהו במשרד פינתי כלשהו.

מטריד יותר: קורסי האתיקה אמנם הפכו למרכיב עיקרי בתארים הנדסיים בעולם הפיזי, אך הם נותרים חריגה נוגה בפדגוגיה במדעי המחשב. אולם ככל שתוכנה משתלטת על יותר מחיינו, ההשלכות האתיות של החלטות שקיבלו מתכנתים רק הולכות וגדלות. עכשיו כשהקוד שלנו נמצא במקררים, תרמוסטטים, אזעקות עשן ועוד, המהלכים הלא נכונים, חוסר ראיית הנולד, או קבלת החלטות מפוקפקת בהחלט יכולים לרדוף את האנושות בכל מקום אליו היא מגיעה.

[מה קיים ומה נמצא באפליקציית dev: 15 מגמות תכנות חמות - ו -15 מתקררות. | הראה כמה אתה באמת יודע על פיתוח על ידי עמידה במבחן ה- IQ שלנו בתכנות, סבב 3 ובחידון שפות התכנות "שלום, עולם". | עבוד חכם יותר, לא קשה יותר - הורד את מדריך ההישרדות של מפתחים מכל הטיפים והמגמות שהתכנתים צריכים לדעת. | עקוב אחר החדשות האחרונות למפתחים באמצעות העלון של עולם המפתחים. ]

להלן כמה מהשלמות האתיות העומדות בפני מפתחים מדי יום - בין אם הם יודעים זאת ובין אם לאו. אין תשובות קלות, במידה מסוימת מכיוון שאופי העבודה הוא כה מופשט. בכדי להחמיר את המצב, העסק הפך לקשר כל כך בלתי נפרד לטכנולוגיית המחשב שקשה לאזן בין הצרכים והמוטיבציות של כל הגורמים המושקעים בניסיון למנוע מהתכונה העסקית של היום להפוך לסיוט האורווליאני מחר.

החוכמה היא לחשוב מעבר לזייטגיסט הנוכחי ולצפות כל ניצול עתידי של מה שאתה בונה. די פשוט, הא? שקול פחות ספר הדרכה לקבלת החלטות שלך ויותר נקודת מוצא לסוג ההתבוננות האתית שעלינו לעשות כחלק יומיומי בעבודותינו.

דילמה אתית מס '1: קבצי יומן - מה לשמור וכיצד לטפל בהם

מתכנתים הם כמו חולדות חבילה. הם שומרים תיעוד של הכל, לעתים קרובות מכיוון שזו הדרך היחידה לנקות באגים במערכת. אך קבצי יומן רישום עוקבים אחר כל מה שמשתמשים עושים, ובידיים לא נכונות הם יכולים לחשוף עובדות שמשתמשים רוצים לשמור בסוד.

עסקים רבים בנויים על הגנה אקטיבית על קבצי יומן. שירותי גיבוי מרוחקים מסוימים אף מבטיחים לשמור עותקים נוספים במקומות גיאוגרפיים שונים. לא כל עסק שואף לחריצות שכזו. Snapchat, למשל, בנתה את המותג שלה על ביצוע עבודה רעה מאוד בגיבוי נתונים, אך המשתמשים שלה נמשכים מחופש המערכת השוכחת.

עצם קיומם של קבצי יומן מעורר כמה שאלות אתיות. האם הם מוגנים כראוי? למי יש גישה? כשאנחנו אומרים שאנחנו משמידים את הקבצים, האם הם באמת נהרסים?

העיקר הוא לברר איזה מידע כדאי לשמור, בהתחשב בסיכונים לכך, מוסריים או אחרים. כאן, העתיד מסבך את המשוואה. בשנות השישים עישון נכלל בהרחבה. איש לא היה חושב פעמיים לעקוב אחר הרגלי העישון של אנשים. אולם כיום, ניתן להשתמש בידע על פעילות העישון של מישהו כדי להעלות את שיעורי ביטוח הבריאות או אפילו לשלול כיסוי.

עסקאות עסקיות עתידיות; תקנות ממשלתיות עתידיות; צורך בלתי צפוי, נואש בזרמי הכנסות חדשים - יתכן שאי אפשר לחזות איזה קובץ יומן לכאורה תמים יהפוך לבעייתי בעתיד, אך חיוני לבחון את האתיקה של אופן הטיפול ביומני הדרך.

דילמה אתית מס '2: האם - וכיצד - להפוך משתמשים למוצרים

מדובר באמרה שחוקה היטב של עידן הסטארט-אפ: אם אינך משלם עבור שירות, אינך לקוח; אתה המוצר.

באינטרנט יש שפע של שירותים "בחינם". למעשה, השאלה מאיפה יגיע הכסף נדחית לעיתים קרובות, היותה דוחה. אנחנו פשוט בונים את המדהים, עוקבים אחר מדדי האימוץ ומבינים שמישהו אחר ידאג לעבודה המלוכלכת של הדלקת אורות השרת. במקרה הגרוע ביותר, תמיד יש מודעות.

מפתחים צריכים להיות ראשוניים לגבי מי יתמוך בעבודתם ומאיפה הכסף. יש להעביר למשתמשים כל שינוי בצורה ברורה ומתוזמנת כדי למנוע זעזוע ומכה. הפיכת אנשים למוצרים היא שינוי אתי שלא צריך להקל ראש בזה. עסקאות מודעות מוצלות, רשתות מודעות מוצלות - עלינו להקפיד כיצד אנו מטפלים באמון הגלום של המאמצים המוקדמים.

דילמה אתית מס '3: עד כמה תוכן באמת רוצה להיות חופשי?

מספר עסקים תלויים בהגשת תוכן מבלי לשלם למי שיוצר אותו. חלקם מסתובבים ומוכרים מודעות או אפילו גובים תשלום עבור גישה. עסקים אלה לעיתים קרובות לא יכלו לשרוד ולא יכלו לתמחר את החומר שלהם בצורה אטרקטיבית אם היו צריכים לתפוס את חלקם ההוגן בעלויות הפיתוח. הם מפתחים רציונליזציות משוכללות לגבי "שיתוף" או "שימוש הוגן" בכדי לכסות החלטה מטלטלת אתית.

מפתחים חייבים לשאול את עצמם כיצד הקוד שלהם יתמוך בכולם בשרשרת המזון, מיוצרים ועד צרכנים. האם האנשים שיוצרים את התוכן רוצים שהעבודה שלהם תופץ כך? האם הם שמחים לעבוד למען חשיפה או תשומת לב בלבד? האם ניתנת להם חלק נכבד מההכנסות?

אי התחשבות בשאלות אלה מסתכמת בהעלמת עין מפירטיות. אחרי הכל, לא כל המידע רק "רוצה להיות חופשי".

דילמה אתית מס '4: כמה מספיק הגנה

יש האומרים שהכל צריך להיות מוצפן כפול עם שני אלגוריתמים שונים ולנעול אותו בדיסק הקשיח השמור בכספת. למרבה הצער, התקורה מאטה את המערכת לזחילה והופכת את ההתפתחות ליותר מכבידה פי 10. כדי להחמיר את המצב, אם ביט אחד מתהפך או שחלק אחד מהאלגוריתם שגוי, הנתונים אבדו מכיוון שלא ניתן לבטל את ההצפנה.

אחרים לא רוצים להרים אצבע כדי להגן על הנתונים. הצוות הבא יכול להוסיף הצפנה מיוחדת מאוחר יותר, אם יהיה צורך בכך, עשויים לומר המפתחים. או שהם עשויים לטעון שאין בזה שום דבר רגיש. צוותים שמתעלמים מאחריות זו בדרך כלל מסוגלים לייצר שפע של קוד אחר וליצור ערימות של תכונות נפלאות שאנשים חושקים בהן. למי אכפת אם הם מאובטחים?

אין תשובה פשוטה לכמה הגנה להחיל. יש רק ניחושים. יותר תמיד טוב יותר - עד שהנתונים יאבדו או שהמוצר לא יישלח.

דילמה אתית מס '5: לתקן באגים או לא לתקן באגים?

קשה מספיק לנהל משא ומתן על הצרכים האתיים כאשר הם כרוכים בהחלטות אקטיביות, אך קשה עוד יותר כאשר ניתן לדחות את הבעיה הצידה ולתייג אותה כבעיה שתתוקן בסופו של דבר. כמה קשה עלינו לעבוד כדי לפתור את הבעיות שאיכשהו גלשו לקוד פועל? האם אנו מפילים הכל? איך נחליט אם באג מספיק רציני כדי לתקן? 

אייזיק אסימוב התמודד עם נושא זה לפני זמן רב כשכתב את חוקי הרובוטיקה והכניס כזה שאוסר על רובוט לעשות דבר אם אדם ייפגע בגלל חוסר המעש של הרובוט. כמובן שהרובוטים שלו היו בעלי מוח פוזיטרוני שיכלו לראות את כל ההיבטים של הבעיה באופן מיידי ולפתור אותם. השאלות למפתחים כל כך מסובכות עד שבאגים רבים מתעלמים ולא מתוקנים כי אף אחד לא רוצה אפילו לחשוב עליהם.

האם חברה יכולה לתעדף את הרשימה בצורה הוגנת? האם יש לקוחות החשובים מאחרים? האם מתכנת יכול לשחק במועדפים על ידי בחירת באג אחד על פני אחר? קשה עוד יותר לחשוב על זה כאשר אתה מבין שקשה לצפות כמה נזק ייגרם מכל באג נתון.

דילמה אתית מס '6: כמה צריך לקודד - או להתפשר - כדי למנוע שימוש לרעה

מצלמת האינטרנט המקורית של אפל הגיעה עם תוספת מכנית חכמה, תריס פיזי שחסם את העדשה כשהיא כבויה. התריס והמתג נקשרו יחד; לא הייתה שום דרך להשתמש במצלמה מבלי לפתוח את התריס בעצמך.

חלק ממצלמות האינטרנט החדשות יותר מגיעות עם נורית LED שאמורה להיות מוארת כאשר המצלמה מופעלת. זה בדרך כלל עובד, אבל כל מי שתכנת מחשב יודע שיש מקום בקוד בו ניתן לקשר את המצלמה והנורית. אם ניתן למצוא זאת, ניתן להפוך את המצלמה למכשיר ריגול.

האתגר של המהנדס הוא צפייה בשימוש לרעה ובעיצוב כדי למנוע זאת. תריס אפל הוא אחת הדוגמאות הברורות והיעילות לאופן בו ניתן לעשות זאת באלגנטיות. כשעבדתי על ספר על רמאות ב- SAT, פגשתי האקר אחד שהוסיף תוכנת רשת למחשבון שלו. לאחר התלבטות הוא החליט לתמוך רק בפרוטוקולים קווית מכיוון שהוא חושש שילדים יגניבו מחשבון עם Wi-Fi לבחינה. על ידי תמיכה בפרוטוקולים קווית בלבד, הוא דאג שכל מי שנמצא במבחן יצטרך להעביר חוט למכונה של שכנו. הוא שנא לדלג על הפרוטוקולים האלחוטיים, אך הוא חש שהסיכון להתעללות גבוה מדי.

דילמה אתית מס '7: עד כמה להגן על לקוחות מפני בקשות נתונים

אם אתה אוסף נתונים, זה הימור בטוח שהארגון שלך יתפוס מתישהו בין שירות הלקוחות שלך לשירות הממשלה. בקשות למסירת נתונים לגופים משפטיים הופכות נפוצות יותר ויותר, ומשאירות יותר ויותר ארגוני תוכנה ושירותים לבחון עד כמה הם יבגדו בפרטיות לקוחותיהם בפני החוק. אתה יכול לבדוק בקשות אלה ואף לשכור עורכי דין משלך כדי להתמודד אם הם באמת חוקיים, אך המציאות היא שבתי המשפט ידונו בחוקיות זמן רב לאחר שנגמר המימון שלך.

אין פתרונות קלים. יש חברות שבוחרות לעזוב את העסק במקום לשקר ללקוחותיהן. אחרים מנסים להיות פתוחים יותר לגבי בקשות, שהממשלה מנסה לרוב לאסור עליהן.

דילמה אתית מס '8: כיצד להתמודד עם האופי הבינלאומי של האינטרנט

האינטרנט פועל בכל מקום, ונמנע מרבים מהחסמים המסורתיים בגבולות. זה יכול להיות מתכון לכאבי ראש משפטיים כאשר לקוחות A ו- B נמצאים במדינות שונות. זו רק ההתחלה מכיוון שהשרתים C ו- D נמצאים לעתים קרובות גם במדינות שונות לחלוטין.

זה מוביל לסוגיות אתיות ברורות. באירופה, למשל, יש חוקים נוקשים לגבי שמירת מידע אישי ורואה בהפרות פרטיות כשלים אתיים. מדינות אחרות מתעקשות על חברות לנהל תיעוד רב של עסקאות. לאילו חוקים צריכה החברה לפעול כאשר לקוחות נמצאים במדינות שונות? מתי הנתונים נמצאים במחוזות שונים? מתי מועברים נתונים על פני קווים בינלאומיים?

שמירה על כל מצב משפטי יכולה להיות הרקולית, מה שמותיר ארגונים רבים בוודאי לטמון את ראשיהם בחול.

דילמה אתית מס '9: כמה להחזיר למקור פתוח

כולם יודעים שקוד פתוח הוא בחינם. אתה לא משלם כלום וזה מה שהופך אותו לכל כך נפלא ומורכב. אך לא כולם שוקלים את הנושאים האתיים הנלווים לשימוש בקוד זה בחינם. כל חבילות הקוד הפתוח מגיעות עם רישיונות ועליך לעקוב אחריהם.

בחלק מהרישיונות אין צורך בהקרבה רבה. רישיונות כמו רישיון אפאצ'י או רישיון MIT דורשים אישור וזה בערך. אך רישיונות אחרים, כמו הרישיון הציבורי הכללי של GNU, מבקשים שתשתף את כל השיפורים שלך.

ניתוח רישיונות למקורות פתוחים יכול להציב אתגרים אתיים. מנהל אחד מחברה ציבורית גדולה אמר לי: "אנחנו לא מפיצים את MySQL, אז אנחנו לא חייבים לאף אחד כלום." הוא התייחס לסעיף, שנכתב לפני עשרות שנים, הקושר את חובות הרישיון לפעולה של חלוקת תוכנה מחדש. החברה השתמשה ב- MySQL לאפליקציות האינטרנט שלה, כך שהוא הרגיש שזה יכול לקחת בלי להחזיר.

אין דרכים פשוטות למדוד את החובות האתיות, ומתכנתים רבים בזבזו הקשות רבות בוויכוח על משמעותן. ובכל זאת, כל העשייה תיטמא אם אנשים יפסיקו לתת. החדשות הטובות הן שלעתים קרובות טובת כולם לתרום מכיוון שכולם רוצים שהתוכנה תישאר תואמת לשימוש בה.

דילמה אתית מס '10: כמה באמת צריך לנטר

אולי הבוס שלך רוצה לוודא שהלקוחות לא קורעים את החברה. אולי אתה רוצה לוודא שאתה מקבל תשלום עבור עבודתך. אולי איזה בחור מפחיד מהממשלה אומר שאתה חייב להתקין דלת אחורית כדי לתפוס רעים. בכל מקרה, הטיעון מלא בהבטחות כי הדלת האחורית תשמש רק, כמו סמכויותיו של סופרמן, לתמיכה באמת ובצדק. זה לא ישמש נגד אויבים פוליטיים או פחות בר מזל. זה לא יימכר למשטרים דספוטיים.

אבל מה אם הרעים יגלו את הדלת הנסתרת ויבינו כיצד להשתמש בה בעצמם? מה אם הדלת האחורית שלך משמשת לתמיכה בחוסר אמיתות ועוולות? הקוד שלך לא יכול לקבל החלטות אתיות בכוחות עצמו. זה התפקיד שלך.

דילמה אתית מס '11: עד כמה קוד צריך להיות חסין כדורים באמת

בטח, החישוב המינימלי, מבנה הנתונים הפשוט וגישה כוח-כוח עובדת היטב בהדגמה כאשר הבעיות קטנות. המשתמשים מנסים את הקוד ואומרים, "אלוהים זה עובד מהר." כמה חודשים לאחר מכן, כאשר הועמסו מספיק נתונים למערכת, חולשות האלגוריתם הזול מופיעות והקוד מאט לזחילה.